DXを推進するAIポータルメディア「AIsmiley」| AI製品・サービスの比較・検索サイト
03-6452-4750 10:00〜18:00 年末年始除く
よく検索されているキーワード

NVIDIA、AIチャットボットの安全な利用をサポートするソフトウェア「NeMo Guardrails」をリリース

最終更新日:2024/01/19

NVIDIAは、AIチャットボットの安全性をサポートするオープンソースソフトウェア「NeMo Guardrails」をリリースしました。

このAIニュースのポイント

  • 「NeMo Guardrails」はAIチャットボットなどの正確性、適切性、整合性、安全性をサポートするオープンソースソフトウェア
  • 「話題」「安全性」「セキュリティ」の3種類のガードレールを設定が可能
  • オープンソースのツールキット「LangChain」や自動化ツール「Zapier」など、さまざまなツールとの連携もできる

NVIDIAは、「ChatGPT」などの大規模言語モデルを利用するAIチャットボットの正確性、適切性、整合性、安全性をサポートするオープンソースソフトウェア「NeMo Guardrails」をリリースしました。

ChatGPTなどの生成AI技術の活用が進む中、安全性やセキュリティ、正確性や整合性などが懸念事項として挙がります。このことを背景にNVIDIAは「NeMo Guardrails」をリリースし、「話題」「安全性」「セキュリティ」という3つのガードレールを設定することで、AIチャットボットが企業の安全基準やセキュリティに沿った回答生成をするサポートが可能です。

「話題」のガードレールでは、例えば顧客サービスのアシスタントのチャットボットで、天気に関する発言を返してしまうなど、アプリが望ましくない領域の話題に方向転換することを防ぎます。

「安全性」のガードレールでは、アプリが正確で適切な情報で応答することを保証し、不要な言葉のフィルタリングや信頼性の高い情報源のみを参照するように設定可能です。

3つ目の「セキュリティ」カードレールは、安全性が確認されている外部サードパーティーアプリケーションのみに接続するように制限可能で、それぞれ3つのガードレールは数行のコードを追加するだけで新しいルールをすぐに作成できます。

また、オープンソースのツールキット「LangChain」や自動化ツール「Zapier」など、さまざまなツールとの連携もでき、開発者は使い慣れたツールでの利用が可能です。

出典:NVIDIA

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています
@AIsmiley.inc
・Xもフォローください
@AIsmiley_inc

DXトレンドマガジン メールマガジン登録

業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

AI・人工知能記事カテゴリ一覧

今注目のカテゴリー

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

AI活用のご相談したい企業様はこちら

03-6452-4750

AI製品・ソリューションの掲載を
希望される企業様はこちら