DXを推進するAIポータルメディア「AIsmiley」| AI製品・サービスの比較・検索サイト
03-6452-4750 10:00〜18:00 年末年始除く

NVIDIA、「NVIDIA AI Foundry」を発表。Llama 3.1モデルを組み合わせた独自データから「スーパーモデル」を構築可能

最終更新日:2024/08/08

NVIDIAは、企業や国家がLlama 3.1 405BおよびNVIDIA Nemotronモデルと組み合わせた独自のデータを使用して「スーパーモデル」を構築できる新サービス「NVIDIA AI Foundry」を発表しました。

このニュースのポイント

  • NVIDIAが「NVIDIA AI Foundry」でLlama 3.1 405BおよびNVIDIA Nemotronモデルを使用し、独自の「スーパーモデル」を構築可能に
  • Llama 3.1は、16,000基のNVIDIA H100 TensorコアGPUでトレーニングされ、8B、70B、405Bのパラメータサイズを持つ生成AIモデルを提供
  • 企業が生成AIアプリケーションを展開する手助けをし、文化、言語、業界を反映したモデルを通じてビジネスの革新を促進

NVIDIA Corporationは、新しいサービス「NVIDIA AI Foundry」を発表。企業や国家がLlama 3.1 405BおよびNVIDIA Nemotronモデルと組み合わせた独自のデータを使用して「スーパーモデル」を構築できるサービスです。NVIDIA DGX Cloud AIプラットフォームを利用し、拡張可能なコンピューティングリソースを提供します。

NVIDIAは、カスタム大規模言語モデルの構築を支援するため、Llama 3.1モデルの企業展開を強化するNVIDIA NIM推論マイクロサービスを導入。これにより、本番環境での迅速な展開と最大2.5倍のスループットが可能です。企業はこのマイクロサービスを新しいNVIDIA NeMo Retrieverと組み合わせ、高度な検索パイプラインも構築できます。

さらに同社は、新しいNeMo Retriever NIM推論マイクロサービスを使用して、RAGの応答精度を向上させることができると発表。Llama 3.1 405Bモデルと組み合わせることで、オープンおよび商用テキストのQ&A検索精度を最高レベルに引き上げます。エンタープライズエコシステムを通じて、NVIDIAのパートナーはこのマイクロサービスをAIソリューションに統合し、開発者コミュニティ向けに生成AIを強化できます。

また、NVIDIA AI Enterpriseを通じてプロダクションサポートが受けられるほか、NVIDIA Developer Programのメンバーは無料でマイクロサービスへのアクセスができます。


また、Llama 3.1は、16,000基のNVIDIA H100 TensorコアGPUでトレーニングされ、8B、70B、405Bのパラメータサイズを持つ生成AIモデルを提供しています。

「NVIDIA AI Foundry」を活用することで、企業が生成AIアプリケーションを展開する手助けをし、文化、言語、業界を反映したモデルを通じてビジネスの革新を促進します。さらに企業は独自のデータと合成データを使用して、特定の業界に特化したAIモデルの作成が可能です。

出典:PR TIMES

AIsmiley編集部

株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。

・Facebookでも発信しています
@AIsmiley.inc
・Xもフォローください
@AIsmiley_inc
・Youtubeのチャンネル登録もお願いいたします@aiaismiley1345

メルマガに登録する

AIサービス
生成AI
LLM
AIモデル作成
導入活用事例
IT・情報・通信
DXトレンドマガジン メールマガジン登録

業務の課題解決に繋がる最新DX・情報をお届けいたします。
メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。登録無料です。

お名前 - 姓・名

お名前を入力してください

メールアドレス

メールアドレスを入力してください

AI・人工知能記事カテゴリ一覧

今注目のカテゴリー

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

ChatGPT連携サービス

チャットボット

画像認識・画像解析

需要予測

AI活用のご相談したい企業様はこちら

03-6452-4750

AI製品・ソリューションの掲載を
希望される企業様はこちら