ChatGPT連携サービス
OpenAI、GPT-4の誤りを指摘するGPT-4ベースモデル「CriticGPT」をリリース
最終更新日:2024/07/18
OpenAIは、ChatGPTのコード出力のエラーを検出するためのGPT-4ベースのモデル「CriticGPT」を発表しました。
このニュースのポイント
- OpenAI、GPT-4ベースのChatGPTコード出力エラー検出モデルを発表
- 高度化したAIモデルの軽微な間違いをAIが検出
- 「CriticGPT」CriticGPTのサポートを受けレビューを行った場合、約60％の確率でパフォーマンスが向上
米OpenAIは、ChatGPTが出力したコードの誤りを検出するモデル「CriticGPT」を発表しました。GPT-4をベースとして作られており、人間によるAIトレーニングの精度向上を支援します。
ChatGPTを動かすGPT-4シリーズのモデルは、その有用性を保つため、人間からのフィードバックによる強化学習 「RLHF」と呼ばれる手法によって調整・構築されています。AIのトレーニングを担う人々がChatGPTのさまざまな応答を評価し、その比較結果を収集します。
しかし、必然的に推論性能やモデルが進化することによって、AIトレーナーは不正確な回答を発見することが難しくなり、この事態はRLHFの限界とされています。
「CriticGPT」はこの問題に対処するため、誤った情報も含めた大量の情報によってトレーニングされており、このモデルも同様にRLHFによって調整されています。
「CriticGPT」は、ChatGPTと同様にRLHFでトレーニングされていますが、ChatGPTとは異なり、誤りを含む大量の入力を学習データとして使用し、それらを批評するようにトレーニングされています。
AIトレーナーに、誤りの情報をChatGPTによって記述されたコードに手動で挿入させ、その誤りを発見した場合にどのようなフィードバックを行うかを記述した例を作成します。次に、同じトレーナーが修正されたコードに対する複数の批評文を比較し、どの批評文が挿入された誤りを正しく指摘しているかを評価します。
実験では、CriticGPTが挿入された誤りと、トレーナーが見つけた「自然発生的な」ChatGPTの誤りの両方を検出できるかどうかを調べたところ、「自然発生的な」ChatGPTの批評よりも、CriticGPTの批評が有用性が高いことがわかりました。
さらにCriticGPTの支援を受けてコードレビューを行った場合、支援なしの場合と比較して、約60％の確率でパフォーマンスが向上したことがわかりました。
また、AIトレーナーはCriticGPTを用いることで、より包括的な批評文を作成することができ、モデル単独で批評文を作成する場合よりも誤った指摘を減らすことができます。
OpenAIは、より長文で複雑なタスクを批評できるようにするため、CriticGPTのさらなる改良を進める予定です。
出典：OpenAI
DXトレンドマガジン
メールマガジン登録
業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
AI・人工知能記事カテゴリ一覧
AI・人工知能サービス
- 生成AI
- 画像生成AI
- ChatGPT
- AI研究開発
- LLM
- DX推進
- おすすめAI企業
- チャットボット
- ボイスボット
- 音声認識・翻訳・通訳
- 画像認識・画像解析
- 顔認証
- AI-OCR
- 外観検査
- 異常検知・予知保全
- 自然言語処理-NLP-
- 検索システム
- 感情認識・感情解析
- AIモデル作成
- 需要予測・ダイナミックプライシング
- AI人材育成・教育
- アノテーション
- AI学習データ作成
- エッジAI
- IoT
- JDLA
- G検定
- E資格
- PoC検証
- RPAツール
- Salesforce Einstein
- Watson（ワトソン）
- Web接客ツール
- サプライチェーン
- メタバース
- AR・VR・デジタルツイン
- MI
- スマートファクトリー
- データ活用・分析
- 機械学習
- ディープラーニング
- 強化学習
- テレワーク・リモートワーク
- マーケテイングオートメーション・MAツール
- マッチング
- レコメンド
- ロボット
- 予測
- 広告・クリエイティブ
- 営業支援・インサイドセールス
- 省人化
- 議事録自動作成
- 配送ルート最適化
- 非接触AI
業態業種別AI導入活用事例
今注目のカテゴリー
チャットボット
画像認識・画像解析
需要予測
ChatGPT連携サービス
チャットボット
画像認識・画像解析
需要予測
FOLLOW US
SNSをフォローして、最新情報をチェックできます！
日本初、積水ハウスが住宅検討層向けにチャットで気軽に相談できる「…
東京都日野市にAIプロデュースの美容室がオープン。立地選定からデ…
JAPAN AIの「JAPAN AI CHAT」に新機能追加。グ…
日本調剤、AI薬歴作成支援サービス「corte」を導入。薬剤師の…
詐欺電話に対抗するAIおばあちゃん「デイジー」が登場。詐欺師の時間と労力を消耗させ被害者保護に貢献
【AI・人工知能EXPO【秋】会場レポート】下半期最大AI専門展！見逃せないAIトレンドが幕張に集結
阿波銀行、生成AIを活用したアプリ「あわぎんRPG」で顧客満足度と行員の提案力向上を図る
Adobe Fireflyとは？基本的な使い方（画像付き）
ビジネスシーンでの生成AI活用事例！生成AIを導入するメリットと注意点を紹介
【12/10開催ウェビナー】生成AIとLLMで組織の生産性を底上げ！ 企業が押さえるべき生成AIやLLM、RAGを用いたチャットボットやセキュアな環境で利用可能な生成AI活用事例をプロがご紹介します
AI製品・ソリューションの掲載を
希望される企業様はこちら