- AI・人工知能のAIsmiley TOP
- ニュース
- 楽天、日本語に最適化されたオープンかつ高性能なLLMを3モデル公開
楽天、日本語に最適化されたオープンかつ高性能なLLMを3モデル公開
最終更新日:2024/04/12
楽天は、日本語に最適化されたオープンかつ高性能の大規模言語モデル(LLM)を3モデル公開しました。
このAIニュースのポイント
- 楽天が日本語に最適化された大規模言語モデル(LLM)3つをオープンモデルとして公開
- 高品質データでの事前学習により高性能なLLMを実現
- 今回公開された3モデルは、文章の要約や質問応答、一般的な文章の理解、対話システムの構築などで商用利用可能
楽天グループ株式会社は3月21日、日本語に最適化されたオープンな高性能の大規模言語モデル(LLM)3つを公開しました。高品質データでの事前学習による、高性能なLLMです。
楽天は、実現基盤モデル「Rakuten AI 7B」と、同モデルを基にしたインストラクションチューニング済モデル「Rakuten AI 7B Instruct」、インストラクションチューニング済モデルを基にファインチューニングを行ったチャットモデル「Rakuten AI 7B Chat」を、オープンなモデルとして公開しました。
「Rakuten AI 7B」は、フランスのMistral AIのオープンモデル「Mistral-7B-v0.1」を基に、継続的に大規模なデータを学習させて開発された70億パラメータの日本語基盤モデルです。また「Rakuten AI 7B Chat」は、「Rakuten AI 7B Instruct」を基にしたチャットモデルで、会話形式の文章を生成するチャットデータを用い、ファインチューニングされています。
楽天LLMの事前学習に使われたデータは、与えられた条件に従ってデータを選別および抽出を行う内製のフィルタリング機能と、関連情報をメタデータとして付与するアノテーション作業によって、質を向上させています。これにより、楽天LLMの性能の高さが実現しています。
また楽天LLMは、日本語に特化して設計された独自の形態素解析器を使用しています。この解析器によって、文章の分割単位であるトークンあたりの文字数が増加し、より多くの情報を単一のトークンに含めることが可能です。従来の形態素解析器と比較して、より効率的に事前学習や推論時のテキスト処理をし、テキストの理解と生成の精度が向上しています。
加えて楽天LLMは、言語モデルの評価基準である「LM Evaluation Harness」で高い評価を獲得しています。この評価は、日本語と英語の両方で行われ、楽天LLMがオープンな日本語LLMの中でも特に優れた性能を持つモデルとして認識されています。高品質なデータでの事前学習や、日本語に最適化された形態素解析器の使用など、複数の面で高い効率性と性能を実現していることを示しています。
今回発表された3モデルは、文章の要約や質問応答、一般的な文章の理解、対話システムの構築などで商用目的として使用することができるほか、本基盤モデルは他のモデルの基盤としても利用可能です。
なお、今回公開された3モデルは、Apache 2.0ライセンスで提供されており、楽天の公式「Hugging Face」リポジトリからダウンロードできます。
出典:楽天
株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。
・Facebookでも発信しています
@AIsmiley.inc
・Xもフォローください
@AIsmiley_inc
業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
生成AIを資料請求
全て無料!
選択中の資料を請求する
AI・人工知能記事カテゴリ一覧
AI・人工知能サービス
- 生成AI
- 画像生成AI
- ChatGPT
- AI研究開発
- LLM
- DX推進
- おすすめAI企業
- チャットボット
- ボイスボット
- 音声認識・翻訳・通訳
- 画像認識・画像解析
- 顔認証
- AI-OCR
- 外観検査
- 異常検知・予知保全
- 自然言語処理-NLP-
- 検索システム
- 感情認識・感情解析
- AIモデル作成
- 需要予測・ダイナミックプライシング
- AI人材育成・教育
- アノテーション
- AI学習データ作成
- エッジAI
- IoT
- JDLA
- G検定
- E資格
- PoC検証
- RPAツール
- Salesforce Einstein
- Watson(ワトソン)
- Web接客ツール
- サプライチェーン
- メタバース
- AR・VR・デジタルツイン
- MI
- スマートファクトリー
- データ活用・分析
- 機械学習
- ディープラーニング
- 強化学習
- テレワーク・リモートワーク
- マーケテイングオートメーション・MAツール
- マッチング
- レコメンド
- ロボット
- 予測
- 広告・クリエイティブ
- 営業支援・インサイドセールス
- 省人化
- 議事録自動作成
- 配送ルート最適化
- 非接触AI
業態業種別AI導入活用事例
今注目のカテゴリー
生成AIを
資料請求
全て無料!
選択中の資料を請求する
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
ニュースPVランキング
世界初!GPT-4o搭載のウェアラブルAIメモリーカプセル「PL…
JA豊橋、AIで病害虫の発生を予測する防除DXアプリを導入
ネオス、太陽生命の生成AIを活用した実証実験に参画。AIを活用し…
AI予測分析ツール「Prediction One」に新機能追加。…
関連記事
オルツ、日本語RAG(検索拡張生成)で軽量型LLMとして世界最高の精度と推論速度を実現。新たに「LHTM-OPT2」をリリース
ChatGPT searchとは?機能や利用方法を詳しく解説
PWM日本証券、生成AIを活用したチャットボットの試験運用を開始。営業活動のサポート品質向上をめざす
神奈川県警察、生成AIなどの活用に向けた協定を日立製作所・日立ソリューションズ東日本と締結
那須建設、東大松尾研発のARCRAと共同で現場の写真・工程管理アプリ「ConPhoto Box」を開発開始
AI inside、「DX Suite」に生成AIエージェントを搭載。ユーザに代わりAIがデータの正確性を検証、人とAIの協働を推進
AI製品・ソリューションの掲載を
希望される企業様はこちら