DXを推進するAIポータルメディア「AIsmiley」｜ AI製品・サービスの比較・検索サイト
お急ぎの方は、まずお電話で 03-6452-4750
MAIL
03-6452-4750 10:00〜18:00 年末年始除く
AI活用を無料相談

NVIDIA、AIチャットボットの安全な利用をサポートするソフトウェア「NeMo Guardrails」をリリース

最終更新日:2024/01/19

NVIDA AIチャットボットの安全性をサポート

NVIDIAは、AIチャットボットの安全性をサポートするオープンソースソフトウェア「NeMo Guardrails」をリリースしました。

このAIニュースのポイント

  • 「NeMo Guardrails」はAIチャットボットなどの正確性、適切性、整合性、安全性をサポートするオープンソースソフトウェア
  • 「話題」「安全性」「セキュリティ」の3種類のガードレールを設定が可能
  • オープンソースのツールキット「LangChain」や自動化ツール「Zapier」など、さまざまなツールとの連携もできる

NVIDIAは、「ChatGPT」などの大規模言語モデルを利用するAIチャットボットの正確性、適切性、整合性、安全性をサポートするオープンソースソフトウェア「NeMo Guardrails」をリリースしました。

ChatGPTなどの生成AI技術の活用が進む中、安全性やセキュリティ、正確性や整合性などが懸念事項として挙がります。このことを背景にNVIDIAは「NeMo Guardrails」をリリースし、「話題」「安全性」「セキュリティ」という3つのガードレールを設定することで、AIチャットボットが企業の安全基準やセキュリティに沿った回答生成をするサポートが可能です。

「話題」のガードレールでは、例えば顧客サービスのアシスタントのチャットボットで、天気に関する発言を返してしまうなど、アプリが望ましくない領域の話題に方向転換することを防ぎます。

「安全性」のガードレールでは、アプリが正確で適切な情報で応答することを保証し、不要な言葉のフィルタリングや信頼性の高い情報源のみを参照するように設定可能です。

3つ目の「セキュリティ」カードレールは、安全性が確認されている外部サードパーティーアプリケーションのみに接続するように制限可能で、それぞれ3つのガードレールは数行のコードを追加するだけで新しいルールをすぐに作成できます。

また、オープンソースのツールキット「LangChain」や自動化ツール「Zapier」など、さまざまなツールとの連携もでき、開発者は使い慣れたツールでの利用が可能です。

出典：NVIDIA

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています @AIsmiley.inc
・Xもフォローください @AIsmiley_inc
・Youtubeのチャンネル登録もお願いいたします@aismiley
メルマガに登録する

AIサービス
ChatGPT
チャットボット
DXトレンドマガジン メールマガジン登録

業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

チャットボットを資料請求

全て無料！

選択中の資料を請求する

AI・人工知能記事カテゴリ一覧

AI・人工知能サービス

業態業種別AI導入活用事例

特集

今注目のカテゴリー

生成AI

ChatGPT連携サービス

チャットボット

AI-OCR

生成AI

ChatGPT連携サービス

チャットボット

AI-OCR

DXトピックス

チャットボットを
資料請求

全て無料！

選択中の資料を請求する

AIsmileyからご案内

FOLLOW US

SNSをフォローして、最新情報をチェックできます！

  • Feedly
  • YOUTUBE
DXトレンドマガジン メールマガジン登録

メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

ニュースPVランキング

週間PVランキング

関連記事

AI活用のご相談したい企業様はこちら

03-6452-4750
AI活用を無料で相談する

AI製品・ソリューションの掲載を
希望される企業様はこちら

詳細はこちら