NVIDIA、AIチャットボットの安全な利用をサポートするソフトウェア「NeMo Guardrails」をリリース

最終更新日:2024/01/19

NVIDA AIチャットボットの安全性をサポート

NVIDIAは、AIチャットボットの安全性をサポートするオープンソースソフトウェア「NeMo Guardrails」をリリースしました。

このAIニュースのポイント

「NeMo Guardrails」はAIチャットボットなどの正確性、適切性、整合性、安全性をサポートするオープンソースソフトウェア
「話題」「安全性」「セキュリティ」の3種類のガードレールを設定が可能
オープンソースのツールキット「LangChain」や自動化ツール「Zapier」など、さまざまなツールとの連携もできる

NVIDIAは、「ChatGPT」などの大規模言語モデルを利用するAIチャットボットの正確性、適切性、整合性、安全性をサポートするオープンソースソフトウェア「NeMo Guardrails」をリリースしました。

ChatGPTなどの生成AI技術の活用が進む中、安全性やセキュリティ、正確性や整合性などが懸念事項として挙がります。このことを背景にNVIDIAは「NeMo Guardrails」をリリースし、「話題」「安全性」「セキュリティ」という3つのガードレールを設定することで、AIチャットボットが企業の安全基準やセキュリティに沿った回答生成をするサポートが可能です。

「話題」のガードレールでは、例えば顧客サービスのアシスタントのチャットボットで、天気に関する発言を返してしまうなど、アプリが望ましくない領域の話題に方向転換することを防ぎます。

「安全性」のガードレールでは、アプリが正確で適切な情報で応答することを保証し、不要な言葉のフィルタリングや信頼性の高い情報源のみを参照するように設定可能です。

3つ目の「セキュリティ」カードレールは、安全性が確認されている外部サードパーティーアプリケーションのみに接続するように制限可能で、それぞれ3つのガードレールは数行のコードを追加するだけで新しいルールをすぐに作成できます。

また、オープンソースのツールキット「LangChain」や自動化ツール「Zapier」など、さまざまなツールとの連携もでき、開発者は使い慣れたツールでの利用が可能です。

出典：NVIDIA

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています
@AIsmiley.inc
・Xもフォローください
@AIsmiley_inc

AIサービス: ChatGPT; チャットボット

DXトレンドマガジンメールマガジン登録

業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓

姓を入力してください

お名前 - 名

名を入力してください

メールアドレス

メールアドレスを入力してください

シェアする

AI・人工知能記事カテゴリ一覧

AI・人工知能サービス

特集

今注目のカテゴリー

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

DXトピックス

AIsmileyからご案内

FOLLOW US

SNSをフォローして、最新情報をチェックできます！

DXトレンドマガジンメールマガジン登録

メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓

お名前 - 姓を入力してください

お名前 - 名

お名前 - 名を入力してください

メールアドレス

メールアドレスを入力してください

ニュースPVランキング

週間PVランキング

AI inside、損保ジャパンの業務効率化をAIエージェントで…

ファミリーマート、「exaBase 生成AI」を導入開始。業務時…

横須賀市、生成AIを活用した市長アバターが英語で情報発信。言語の…

Anthropic、「Claude」の無料iOS/iPadアプリ…

AI活用のご相談したい企業様はこちら

03-6452-4750

AI活用を無料で相談する

AI製品・ソリューションの掲載を
希望される企業様はこちら

詳細はこちら