生成AI
NEC、大規模言語モデル「cotomi Pro」と「cotomi Light」を開発。グローバルLLMと同等の性能を、十数倍の速度で実現。
最終更新日:2024/04/26
NECは大規模言語モデルの「cotomi Pro」と「cotomi Light」を開発しました。グローバルLLMと同等の高い性能を十数倍の速度で実現している高速・高性能なモデルです。
このAIニュースのポイント
- NECが「cotomi Pro」と「cotomi Light」を開発。速度と性能が向上している
- 「cotomi Pro」は、GPT-4より5倍以上の速度を、「cotomi Light」はGPT-3.5-Turboと同等の性能を持っている
- これらのモデルを使用すれば、AIを用いた業務アプリの反応速度が向上し、快適にアプリを使用できるようになる
NECは、大規模言語モデル「cotomi Pro」と「cotomi Light」を開発しました。学習データやアーキテクチャ（システム構造）が刷新され、速度と性能が向上しています。
AI技術の具体的な活用が進む一方で、AIの導入や運用には業務データの連携、情報漏洩やセキュリティ面など、各顧客のニーズに合ったAIモデルが必要とされています。今回、NECが開発した大規模言語モデル「cotomi Pro」「cotomi Light」は、グローバルのLLMと同等の高い性能を、十数倍の速度で実現しています。学習方式やアーキテクチャを工夫し、速度と性能の向上を実現しました。
「cotomi Pro」と「cotomi Light」は、文書要約や論理推論、質問応答などの能力が非常に高い言語モデルです。
具体的には、LLMの総合的な性能の測定によく用いられる「ELYZA Tasks 100」「Japanese MT-Bench」の2つのベンチマークによる評価において、日本のみならずグローバルでもトップレベルとなる性能を確認しました。
また、「cotomi Pro」と「cotomi Light」は、高い推論性能と迅速な応答速度を実現するため、アーキテクチャの工夫や大規模な日本語辞書を用いています。これにより、GPU2枚でGPT-4を使うよりも、1/8〜1/15の時間で処理できる高速性を実現しています。さらに、同時アクセス数の拡大や学習時間の短縮にも効果があります。GPUを増やし、さらなる速度向上が見込め、柔軟な構築が可能です。
特に、RAGという仕組みによる社内文書検索システムでは、ファインチューニング前にはGPT-3.5以上の正答率、ファインチューニング後にはGPT-4を超える正答率を、1/15のレスポンスタイムで実現しています。
今回開発された「cotomi Pro」と「cotomi Light」により、生成AIを使用しているアプリの反応時間が短縮され、より快適にアプリを使用できます。また、個別データでのファインチューニングを通じてさらなる性能向上が期待されます。
NECは今後もパートナーと協力し、安全な生成AIサービスの提供を通じ、顧客の課題解決を支援していく方針です。
出典：NEC
DXトレンドマガジン
メールマガジン登録
業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
AI・人工知能記事カテゴリ一覧
AI・人工知能サービス
- 生成AI
- 画像生成AI
- ChatGPT
- AI研究開発
- LLM
- DX推進
- おすすめAI企業
- チャットボット
- ボイスボット
- 音声認識・翻訳・通訳
- 画像認識・画像解析
- 顔認証
- AI-OCR
- 外観検査
- 異常検知・予知保全
- 自然言語処理-NLP-
- 検索システム
- 感情認識・感情解析
- AIモデル作成
- 需要予測・ダイナミックプライシング
- AI人材育成・教育
- アノテーション
- AI学習データ作成
- エッジAI
- IoT
- JDLA
- G検定
- E資格
- PoC検証
- RPAツール
- Salesforce Einstein
- Watson（ワトソン）
- Web接客ツール
- サプライチェーン
- メタバース
- AR・VR・デジタルツイン
- MI
- スマートファクトリー
- データ活用・分析
- 機械学習
- ディープラーニング
- 強化学習
- テレワーク・リモートワーク
- マーケテイングオートメーション・MAツール
- マッチング
- レコメンド
- ロボット
- 予測
- 広告・クリエイティブ
- 営業支援・インサイドセールス
- 省人化
- 議事録自動作成
- 配送ルート最適化
- 非接触AI
業態業種別AI導入活用事例
今注目のカテゴリー
ChatGPT連携サービス
チャットボット
AI-OCR
生成AI
ChatGPT連携サービス
チャットボット
AI-OCR
FOLLOW US
SNSをフォローして、最新情報をチェックできます！
Sakana AI、高性能かつ小規模な日本語言語モデルを発表。ス…
OpenAI、ChatGPTに新たな調査エージェント機能「Dee…
パーソル、ファイル自動整理サービス「AUTOMETA」にAIと会…
ぐるなび、AIを活用した新しい飲食店検索アプリ「UMAME!」を…
楽天モバイル、法人向け生成AIサービス「Rakuten AI for Business」を提供開始
Helpfeel、新たな検索アルゴリズム「意図予測検索3」を搭載したAI-FAQ「Helpfeel」をリリース
OpenAIとソフトバンクグループが提携し、企業用最先端AI「クリスタル・インテリジェンス」を開発・販売へ
日本総研と富士通、三井住友銀行のシステムバージョンアップに生成AIを活用
OpenAI、科学や数学、コーディングに特化した新しい推論モデル「o3-mini」を公開。コスト効率の高い推論を実現
Sakana AI、高性能かつ小規模な日本語言語モデルを発表。スマートフォンやPCでも動作可能に
AI製品・ソリューションの掲載を
希望される企業様はこちら