Stability AI Japan「Japanese StableLM Alpha」をリリース、日本語向け汎用言語モデルと指示応答言語モデルを一般公開。
最終更新日:2023/08/18
Stability AI Japanは、70億パラメータの日本語向け汎用言語モデル「Japanese StableLM Alpha」をリリースしました。
このAIニュースのポイント
- Stability AI Japanは「Japanese StableLM Alpha」をリリース
- 汎用言語モデル「Japanese StableLM Base Alpha 7B」は、日本語と英語のテキスト生成に特化した言語モデル
- 指示応答言語モデル「Japanese StableLM Instruct Alpha 7B」は、汎用言語モデルに対し追加学習を行い、ユーザーの指示に受け答え可能なモデル
Stability AI Japanは、70億パラメータの日本語向け汎用言語モデル「Japanese StableLM Base Alpha 7B」及び、指示応答言語モデル「Japanese StableLM Instruct Alpha 7B」をリリースしました。
汎用言語モデル「Japanese StableLM Base Alpha 7B」は、日本語と英語のテキスト生成に特化した汎用言語モデルで、ウェブを中心とした大規模データを用いて学習したモデルです。学習データには、オープンデータセットに加え、Stability AI Japanが作成した独自のデータセットなどが含まれています。また、学習にはEleutherAIのGPT-NeoXを発展させたソフトウェアを利用しました。
指示応答言語モデル「Japanese StableLM Instruct Alpha 7B」は、汎用言語モデルをベースに追加学習を行い、ユーザーの指示に従って受け答えのできるモデルです。Supervised Fine-tuningという手法を使用して追加学習が行われ、複数のオープンデータセットを利用しています。
また今回リリースした言語モデルは、ベンチマークスイート「lm-evaluation-harness」による複数の日本語タスクを用いた性能評価において、一般公開されている日本語向けモデルで良い性能を発揮しています。
モデルはHugging Face HubにおいてHugging Face Transformersに準拠する形式で公開しており、Hugging Face Transformersの他のモデルと同様に推論や追加学習を試すことが可能です。
Stability AI Japanは、今後もこのような日本向けの生成基盤モデルを構築し公開していく予定だとコメントしています。
- AIサービス
- 自然言語処理-NLP-
業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。
AI・人工知能記事カテゴリ一覧
AI・人工知能サービス
- 生成AI
- 画像生成AI
- ChatGPT
- AI研究開発
- LLM
- DX推進
- おすすめAI企業
- チャットボット
- ボイスボット
- 音声認識・翻訳・通訳
- 画像認識・画像解析
- 顔認証
- AI-OCR
- 外観検査
- 異常検知・予知保全
- 自然言語処理-NLP-
- 検索システム
- 感情認識・感情解析
- AIモデル作成
- 需要予測・ダイナミックプライシング
- AI人材育成・教育
- アノテーション
- AI学習データ作成
- エッジAI
- IoT
- JDLA
- G検定
- E資格
- PoC検証
- RPAツール
- Salesforce Einstein
- Watson(ワトソン)
- Web接客ツール
- サプライチェーン
- メタバース
- AR・VR・デジタルツイン
- MI
- スマートファクトリー
- データ活用・分析
- 機械学習
- ディープラーニング
- 強化学習
- テレワーク・リモートワーク
- マーケテイングオートメーション・MAツール
- マッチング
- レコメンド
- ロボット
- 予測
- 広告・クリエイティブ
- 営業支援・インサイドセールス
- 省人化
- 議事録自動作成
- 配送ルート最適化
- 非接触AI
業態業種別AI導入活用事例
今注目のカテゴリー
AI製品・ソリューションの掲載を
希望される企業様はこちら