- AI・人工知能のAIsmiley TOP
- ニュース
- Meta、オープンソースの最新LLM「Llama 3.1」を発表。最大4050億のパラメータを持つ、高性能なモデル
Meta、オープンソースの最新LLM「Llama 3.1」を発表。最大4050億のパラメータを持つ、高性能なモデル
最終更新日:2024/08/02
Metaは、オープンソースの最新LLM「Llama 3.1」を2024年7月24日に発表しました。最大4050億のパラメータを持つ、高性能な最新モデルです。
このニュースのポイント
- Meta、最大4050億パラメータを持つ、高性能で且つ無料で商用可の最新LLM「Llama 3.1」を発表
- 開発者はLlamaモデルの出力を利用して他のモデルを改良できるようになり、すぐに利用可能
- 「Llama 3.1」は、最大4050億のパラメータを持ち、長さ1280のコンテキストや8言語のサポートや、柔軟性や制御性に優れていて、一般知識や多言語翻訳などの最先端機能を持つ
米Meta社は、オープンソースの最新LLM「Llama 3.1」を2024年7月24日に発表しました。このモデルは、最大4050億のパラメータを持ち、長さ1280のコンテキストや8言語のサポートや、柔軟性や制御性に優れていて、一般知識や多言語翻訳などの最先端機能を持つ高性能なAIモデルです。
80億および700億モデルのアップグレード版も導入され、長いコンテキストや強化された推論機能を備え、多様なユースケースに対応可能です。開発者はLlamaモデルの出力を利用して他のモデルを改良できるようになり、これらのモデルはオープンソースとして提供され、すぐに利用可能です。
今回のリリースでは、150以上の言語ベンチマークデータセットでのパフォーマンス評価と実際のシナリオでの人間による「Llama 3.1」と競合モデルの比較が行われました。
評価結果は、「Llama 3.1」が「GPT-4」や「Claude 3.5 Sonnet」などの主要基盤モデルと競合可能であることを示し、小規模モデルも同様のパラメーター数を持つクローズドおよびオープンモデルと競争力があることが確認されました。
「Llama 3.1」は、15兆を超えるトークンでトレーニングされ、16,000以上のH100 GPUを使用することで、トレーニングスタックを最適化し、設計にはシンプルなプロセスを重視しています。
その結果、学習データの前処理や品質保証も向上し、言語モデルのスケーリング法則に従って、4050億モデルは小規模モデルよりも優れたパフォーマンスを示しました。また、運用の効率化のために、モデルを16ビットから8ビットに量子化し、計算要件を削減しました。
4050億モデルは非常に強力ですが、相応の必要な計算リソースと専門知識が求められ、生成AI開発にはモデルのプロンプティング以上の要素が多く存在することが明らかになりました。4050億モデルを最大限に活用するためには、リアルタイム推論、微調整、モデル評価、事前トレーニング、検索拡張生成などの要素が重要です。そこで、Llamaエコシステムを利用することで、開発者はこれらの高度な機能を活用し、迅速にプロジェクトを進められます。
Metaは、開発者向けに新しいワークフローやツールを提供し、責任ある利用を促進するためのセキュリティツールも整備しています。オープンソースのLlamaモデルは、開発者が自由にカスタマイズできるオープンソースのLlamaモデルがイノベーションを促進。広範な開発者コミュニティが生成AIの利点を活用しやすくすることで、技術の利用が特定の人々に集中することを防ぎます。
Llamaモデルは低コストで運用でき、さまざまな環境で実行可能です。これまでに、WhatsAppやMessenger用のAI学習バディや、医療分野向けのアプリケーションなど、オープンソースを活かした成果が見られています。今後もオープンアクセスAIが業界の標準となることが期待されています。
出典:Meta
株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。
・Facebookでも発信しています
@AIsmiley.inc
・Xもフォローください
@AIsmiley_inc
・Youtubeのチャンネル登録もお願いいたします@aiaismiley1345
業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
生成AIを資料請求
全て無料!
選択中の資料を請求する
AI・人工知能記事カテゴリ一覧
AI・人工知能サービス
- 生成AI
- 画像生成AI
- ChatGPT
- AI研究開発
- LLM
- DX推進
- おすすめAI企業
- チャットボット
- ボイスボット
- 音声認識・翻訳・通訳
- 画像認識・画像解析
- 顔認証
- AI-OCR
- 外観検査
- 異常検知・予知保全
- 自然言語処理-NLP-
- 検索システム
- 感情認識・感情解析
- AIモデル作成
- 需要予測・ダイナミックプライシング
- AI人材育成・教育
- アノテーション
- AI学習データ作成
- エッジAI
- IoT
- JDLA
- G検定
- E資格
- PoC検証
- RPAツール
- Salesforce Einstein
- Watson(ワトソン)
- Web接客ツール
- サプライチェーン
- メタバース
- AR・VR・デジタルツイン
- MI
- スマートファクトリー
- データ活用・分析
- 機械学習
- ディープラーニング
- 強化学習
- テレワーク・リモートワーク
- マーケテイングオートメーション・MAツール
- マッチング
- レコメンド
- ロボット
- 予測
- 広告・クリエイティブ
- 営業支援・インサイドセールス
- 省人化
- 議事録自動作成
- 配送ルート最適化
- 非接触AI
業態業種別AI導入活用事例
今注目のカテゴリー
生成AIを
資料請求
全て無料!
選択中の資料を請求する
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
ニュースPVランキング
生成AI導入の課題はリテラシー不足。日本のAI活用率は世界最下位…
SUPERNOVAが生成AIサービス「Stella AI」を提供…
ホリエモンAI学校、AI運用の全てを代行する「ホリエモンAI丸投…
GovTech東京のアドバイザーに安野 貴博氏が就任。東京都のD…
関連記事
OpenAI、ChatGPTの新たな有料プラン「ChatGPT Pro」を発表。最高性能の推論モデル「o1 pro mode」が利用可能に
AIいちご自動収穫ロボット「ロボつみ」を用いて、都市型農業の半自動化を目指した実証実験を開始
大阪府豊中市、生成AIを活用した子育て相談チャットボットの実証実験を開始
PR TIMES、2024年急上昇キーワードTOP20を公開。「生成AI」が1位にランクイン
羽田空港でAIを活用した訪日観光客向け観光案内サービスの実証実験を開始。スタッフの業務負荷軽減に期待
Yahoo!ショッピング、生成AIがレビュー内容を軸に類似商品をレコメンドする機能を提供
AI製品・ソリューションの掲載を
希望される企業様はこちら