DXを推進するAIポータルメディア「AIsmiley」｜ AI製品・サービスの比較・検索サイト
お急ぎの方は、まずお電話で 03-6452-4750
MAIL
03-6452-4750 10:00〜18:00 年末年始除く
AI活用を無料相談

NEC、大規模言語モデル「cotomi Pro」と「cotomi Light」を開発。グローバルLLMと同等の性能を、十数倍の速度で実現。

最終更新日:2024/04/26

NEC 高速・高性能LLMを開発

NECは大規模言語モデルの「cotomi Pro」と「cotomi Light」を開発しました。グローバルLLMと同等の高い性能を十数倍の速度で実現している高速・高性能なモデルです。

このAIニュースのポイント

  • NECが「cotomi Pro」と「cotomi Light」を開発。速度と性能が向上している
  • 「cotomi Pro」は、GPT-4より5倍以上の速度を、「cotomi Light」はGPT-3.5-Turboと同等の性能を持っている
  • これらのモデルを使用すれば、AIを用いた業務アプリの反応速度が向上し、快適にアプリを使用できるようになる

NECは、大規模言語モデル「cotomi Pro」と「cotomi Light」を開発しました。学習データやアーキテクチャ（システム構造）が刷新され、速度と性能が向上しています。

AI技術の具体的な活用が進む一方で、AIの導入や運用には業務データの連携、情報漏洩やセキュリティ面など、各顧客のニーズに合ったAIモデルが必要とされています。今回、NECが開発した大規模言語モデル「cotomi Pro」「cotomi Light」は、グローバルのLLMと同等の高い性能を、十数倍の速度で実現しています。学習方式やアーキテクチャを工夫し、速度と性能の向上を実現しました。

「cotomi Pro」と「cotomi Light」は、文書要約や論理推論、質問応答などの能力が非常に高い言語モデルです。

具体的には、LLMの総合的な性能の測定によく用いられる「ELYZA Tasks 100」「Japanese MT-Bench」の2つのベンチマークによる評価において、日本のみならずグローバルでもトップレベルとなる性能を確認しました。

また、「cotomi Pro」と「cotomi Light」は、高い推論性能と迅速な応答速度を実現するため、アーキテクチャの工夫や大規模な日本語辞書を用いています。これにより、GPU2枚でGPT-4を使うよりも、1/8〜1/15の時間で処理できる高速性を実現しています。さらに、同時アクセス数の拡大や学習時間の短縮にも効果があります。GPUを増やし、さらなる速度向上が見込め、柔軟な構築が可能です。

特に、RAGという仕組みによる社内文書検索システムでは、ファインチューニング前にはGPT-3.5以上の正答率、ファインチューニング後にはGPT-4を超える正答率を、1/15のレスポンスタイムで実現しています。

今回開発された「cotomi Pro」と「cotomi Light」により、生成AIを使用しているアプリの反応時間が短縮され、より快適にアプリを使用できます。また、個別データでのファインチューニングを通じてさらなる性能向上が期待されます。

NECは今後もパートナーと協力し、安全な生成AIサービスの提供を通じ、顧客の課題解決を支援していく方針です。

出典：NEC

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています
@AIsmiley.inc
・Xもフォローください
@AIsmiley_inc
・Youtubeのチャンネル登録もお願いいたします@aiaismiley1345

メルマガに登録する

AIサービス
生成AI
AI研究開発
LLM
DXトレンドマガジン メールマガジン登録

業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

生成AIを資料請求

全て無料！

選択中の資料を請求する

AI・人工知能記事カテゴリ一覧

AI・人工知能サービス

業態業種別AI導入活用事例

特集

今注目のカテゴリー

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

DXトピックス

生成AIを
資料請求

全て無料！

選択中の資料を請求する

AIsmileyからご案内

FOLLOW US

SNSをフォローして、最新情報をチェックできます！

  • Feedly
  • YOUTUBE
DXトレンドマガジン メールマガジン登録

メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

ニュースPVランキング

週間PVランキング

関連記事

AI活用のご相談したい企業様はこちら

03-6452-4750
AI活用を無料で相談する

AI製品・ソリューションの掲載を
希望される企業様はこちら

詳細はこちら