生成AI

最終更新日:2024/03/19
xAIは、同社が開発したLLM「Grok-1」の基本モデルの重みとネットワーク アーキテクチャをオープンソース化したと発表しました。
このAIニュースのポイント
3月17日、イーロン・マスク氏が設立したAI企業「xAI」は、大規模言語モデル「Grok-1」の基本モデルの重みとネットワーク アーキテクチャをオープンソース化すると発表しました。
Grok-1は、3,140億パラメータの混合専門家モデル(MoE)で、大量のテキスト データに基づいてトレーニングされた基本モデルであり、特定のタスク向けにチューニングはされていません。
Grok-1は、同社が昨年11月に発表したチャットボット「Grok」のベースとなるモデルで、複数のLLM評価指標でベンチマークが行われた結果、GPT-3.5やLLaMa 2などのモデルを上回る結果を示しています。
事前学習では2023年10月までの情報を保有しています。GitHubでApache 2ライセンスで配布されています。
出典:xAI
業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
AI製品・ソリューションの掲載を
希望される企業様はこちら