DXを推進するAIポータルメディア「AIsmiley」｜ AI製品・サービスの比較・検索サイト
お急ぎの方は、まずお電話で 03-6452-4750
MAIL
03-6452-4750 10:00〜18:00 年末年始除く
AI活用を無料相談

OpenAI、GPT-4の誤りを指摘するGPT-4ベースモデル「CriticGPT」をリリース

最終更新日:2024/07/18

GPT-4の誤りを指摘するモデルが登場

OpenAIは、ChatGPTのコード出力のエラーを検出するためのGPT-4ベースのモデル「CriticGPT」を発表しました。

このニュースのポイント

  • OpenAI、GPT-4ベースのChatGPTコード出力エラー検出モデルを発表
  • 高度化したAIモデルの軽微な間違いをAIが検出
  • 「CriticGPT」CriticGPTのサポートを受けレビューを行った場合、約60％の確率でパフォーマンスが向上

米OpenAIは、ChatGPTが出力したコードの誤りを検出するモデル「CriticGPT」を発表しました。GPT-4をベースとして作られており、人間によるAIトレーニングの精度向上を支援します。

ChatGPTを動かすGPT-4シリーズのモデルは、その有用性を保つため、人間からのフィードバックによる強化学習 「RLHF」と呼ばれる手法によって調整・構築されています。AIのトレーニングを担う人々がChatGPTのさまざまな応答を評価し、その比較結果を収集します。

しかし、必然的に推論性能やモデルが進化することによって、AIトレーナーは不正確な回答を発見することが難しくなり、この事態はRLHFの限界とされています。

「CriticGPT」はこの問題に対処するため、誤った情報も含めた大量の情報によってトレーニングされており、このモデルも同様にRLHFによって調整されています。

「CriticGPT」は、ChatGPTと同様にRLHFでトレーニングされていますが、ChatGPTとは異なり、誤りを含む大量の入力を学習データとして使用し、それらを批評するようにトレーニングされています。

AIトレーナーに、誤りの情報をChatGPTによって記述されたコードに手動で挿入させ、その誤りを発見した場合にどのようなフィードバックを行うかを記述した例を作成します。次に、同じトレーナーが修正されたコードに対する複数の批評文を比較し、どの批評文が挿入された誤りを正しく指摘しているかを評価します。

実験では、CriticGPTが挿入された誤りと、トレーナーが見つけた「自然発生的な」ChatGPTの誤りの両方を検出できるかどうかを調べたところ、「自然発生的な」ChatGPTの批評よりも、CriticGPTの批評が有用性が高いことがわかりました。

さらにCriticGPTの支援を受けてコードレビューを行った場合、支援なしの場合と比較して、約60％の確率でパフォーマンスが向上したことがわかりました。

また、AIトレーナーはCriticGPTを用いることで、より包括的な批評文を作成することができ、モデル単独で批評文を作成する場合よりも誤った指摘を減らすことができます。

OpenAIは、より長文で複雑なタスクを批評できるようにするため、CriticGPTのさらなる改良を進める予定です。

出典：OpenAI

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています
@AIsmiley.inc
・Xもフォローください
@AIsmiley_inc
・Youtubeのチャンネル登録もお願いいたします@aiaismiley1345

メルマガに登録する

AIサービス
生成AI
ChatGPT
LLM
DXトレンドマガジン メールマガジン登録

業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

生成AIを資料請求

全て無料！

選択中の資料を請求する

AI・人工知能記事カテゴリ一覧

AI・人工知能サービス

業態業種別AI導入活用事例

特集

今注目のカテゴリー

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

DXトピックス

生成AIを
資料請求

全て無料！

選択中の資料を請求する

AIsmileyからご案内

FOLLOW US

SNSをフォローして、最新情報をチェックできます！

  • Feedly
  • YOUTUBE
DXトレンドマガジン メールマガジン登録

メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

ニュースPVランキング

週間PVランキング

関連記事

AI活用のご相談したい企業様はこちら

03-6452-4750
AI活用を無料で相談する

AI製品・ソリューションの掲載を
希望される企業様はこちら

詳細はこちら