大規模言語モデル（LLM）とは？仕組み・種類・活用サービス・課題をわかりやすく解説

最終更新日:2024/11/26

ChatGPTを筆頭に生成系AIサービスが世界的に浸透するとともに、個人だけでなくビジネスシーンにおける利用も増加の一途を辿っています。文章や画像、動画などさまざまな生成AIサービスが登場する中、テキスト向けAIモデルにおいて欠かせないのが大規模言語モデル（LLM）です。

生成系AIサービスの登場に伴い、AI技術が専門の域を超えて社会生活に浸透している現在、LLMの基本的な情報や課題を押さえておくことはAIサービスを活用する上で重要です。

本記事では、大規模言語モデル（LLM）の概要や種類、LLMでできること、代表的なLLM製品などについて解説します。

LLM（Large Language Models）とは、大量のデータセットとディープラーニング技術を用いて構築された、機械学習の自然言語処理モデルのことです。一般的には、特定のタスクでトレーニングする「ファインチューニング」と呼ばれる手法を用いて、テキスト分類・生成や感情分析、文章要約、質問応答といったさまざまな自然言語処理（NLP）タスクに適応させます。

大規模言語モデルでは、従来の自然言語モデルと比べて「計算量（コンピュータが処理する仕事量）」「データ量（入力された情報量）」「パラメータ数（ディープラーニング技術に特有の係数の集合体）」という3つの要素を巨大化させている点が特徴です。

そのため人間の自然な会話に近い流暢なやり取りや、自然言語のさまざまな処理を高精度で行うことができます。大規模言語モデルの代表例には、Googleによる「BERT」やOpenAIの「GPT-3」などがあります。

そもそも言語モデルとは

そもそも「言語モデル」とは、文章や単語の出現確率を用いてモデル化したものです。言語モデルでは、人間が使う言い回しや意味を理解した上で、次にどの単語が続くのかを推測します。

人間の自然な会話や文章に対して高い確率を割り当て、文章として成立しない単語の並びには低い確率を割り当てます。選択肢の中から最も高い確率の単語の並びを採用することで、違和感の少ない文章を出力する仕組みです。

大規模言語モデルは、言語モデルにおける種別の1つです。近年では、ニューラルネットワークを用いた言語モデル（ニューラル言語モデル）が自然言語処理の分野で広く使われています。

LLMとChatGPTの違い

LLMは、大量のデータセットと深層学習技術を採用したAIモデルで、自然言語処理タスクを実行します。ChatGPTとは、OpenAI社が開発したGPT（Generative Pre-trained Transformer）アーキテクチャに基づくAIモデルであり、LLMの事例の1つがChatGPTと言えます。

LLMが特定のパラメータや条件に基づいて文章を生成するのに対し、ChatGPTではより自然な会話や人間らしい文章を生成することを得意としています。

LLMと生成AIの違い

生成AIとは、テキストや画像、動画、音声などを生成できるAI技術の総称であり、AIが新しい情報やアイデアを生成する技術のことを指します。一方、LLMは自然言語処理に特化した言語モデルであり、生成AIの種類の1つです。

また、テキストの理解や生成を担うLLMであるChatGPTも、生成AIと呼ぶことができます。

大規模言語モデル（LLM）の仕組み

大規模言語モデルの仕組みを見ていきましょう。まず、大規模言語モデルでは、巨大テキストデータセットを用いた事前学習（Pre-Training）と、性能を最適化する微調整（Fine-Tuning）の2段階のプロセスを通ります。

その後、LLMが入力（プロンプト）を受け取り、適切な反応を出力するまでの主な流れは、以下のようになっています。

1. トークン化：入力文をトークン（最小単位）に分別し、ベクターに変換
2. 文脈理解：プロンプト内の各トークンとの関連性を計算
3. エンコード：特徴量の抽出
4. トークンのデコード：次のトークンを予測
5. 入力文の次のトークンの確率を出力

LLMでは、基本的に上記の手順を繰り返し、文書生成が実行されます。LLMのモデルにより細かな点は異なりますが、多くのLLMでは単語や部分単語をトークンとして扱っています。

大規模言語モデル（LLM）の種類一覧

ここ数年で多数の大規模言語モデルが発表されています。ここでは、代表的な製品を含むLLMの一覧を紹介します。

言語モデル名	概要	企業名	パラメータ数	発表年
BERT	データセットの規模を増やし精度を向上させた 初期の言語モデル	Google	3.4億	2018年
GPT-3（Generative Pretrained Transformer）	Transformerをベースとし、文書生成に特化するよう チューニングされたモデル	OpenAI	1,750億	2020年
GPT-4	GPT-3に、画像や音声などテキスト以外のデータを 学習させたモデル	OpenAI	非公開	2023年
LaMDA（Language Model for Dialogue Applications）	Transformerをベースとし、対話に特化させたモデル。 1兆5,600億語のテキストコーパスで事前学習を実施	Google	未公開	2021年
PaLM（Pathways Language Model）	論文「Scaling Language Modeling with Pathways」を元にしたモデル。 Transformerのパラメータ数を大幅に拡大し、高性能を実現	Google	5,400億	2022年
LLaMA（Large language Model Meta AI）	GPT-3と同等の性能を、圧倒的に少ないパラメータ数で実現。 GitHub上でオープンソースとして公開	Meta	70～650億	2023年
NEMO LLM	独自の学習データで 多様なサイズにカスタマイズ可能	NVIDIA	未公開	2022年
Claude	GPT-2とGPT-3の開発に携わったエンジニアによるモデル	Anthropic	未公開	2023年
Alpaca 7B	LLaMAをベースとし、Instruction-following（指示実行）の結果を使って ファインチューニングしたモデル	スタンフォード大学	70億	2023年
Vicuna 13B	LLaMAをベースに、ChatGPTとユーザの会話を学習させた オープンソースのチャットボット	カリフォルニア大学	未公開	2023年
OpenFlamingo	DeepMindが開発したマルチモーダルモデル 「Flamingo」をオープンソース化	LAION	未公開	2023年

上記に挙げた主なLLMの多くは、「Transformer」と呼ばれるニューラルネットワークアーキテクチャをベースとしています。Transformerは、2017年に発表された「Attention Is All You Need」という論文で示されたディープラーニングのモデルです。

従来のニューラルネットワークより少ないレイヤーを使用する点がブレイクスルーとなり、「BERT」や「GPTシリーズ」の登場につながっています。

大規模言語モデル（LLM）にできること

大規模言語モデル（LLM）ができることは多岐にわたります。ここでは、その一部を以下にまとめます。

• 質問への回答
• 文章の要約
• 感情分析
• 機械翻訳
• プロンプト（入力）の続きを予測
• 文章の分類や言い換え
• キーワードの抽出
• 入力されたプログラムのバグチェック

最近では、画像や音声などテキスト以外のデータも学習させたLLMも登場しています。

LLMでは、指示を送る入力（プロンプト）により、さまざまな出力が可能です。ChatGPTなどのLLMを使いこなす上で欠かせないプロンプトの基礎知識や、出力精度の高め方については、下記記事にて解説しています。

ChatGPTを活用するためのプロンプトとは？例文を交えて精度が上がる命令方法を紹介

大規模言語モデル（LLM）を活用した代表的なサービス

ここで、LLMの中でも知名度の高い「ChatGPT」とBingの「AIチャット」、そしてGoogleによる「Bard」という3つのサービスについて、特徴をおおまかに紹介します。

ChatGPT

「ChatGPT」は、人工知能の研究開発機関であるOpenAIがリリースした自然言語処理モデルを用いたAIチャットサービスです。2022年11月の公開後、革新的なサービスとして瞬く間に注目を集め、日本でも大きな話題を呼びました。

2023年3月には、従来のモデル（GPT-3、GPT3.5）に比べて高い能力を備えた「GPT-4」がリリースされ、有料プラン（ChatGPT Plus）にて利用が可能です。GPT-4では、抽象的な要素に対する処理能力が大幅に強化されており、画像や図とテキストの組み合わせに対してテキストを出力する作業や、より高度な推論や複雑な指示への応対が実現しています。

2023年5月には、待望のiPhone（iOS）版ChatGPTアプリがリリースされ、スマホから無料で利用できる環境が整えられました。

ChatGPTの登録方法やアプリの詳細については、下記記事をご覧ください。
ChatGPTとは？使い方や始め方､日本語対応アプリでできることも紹介！

Copilot（旧Bing AIチャット）

Copilot（旧Bing AIチャット）とは、Microsoft（マイクロソフト）が提供する検索エンジン「Bing」に、GPT-4搭載のAIチャットを組み込んだ「Bing AI」内の機能です。

Copilotは、検索エンジンと連動しているため、リアルタイムの情報を反映しながら回答を行います。出力内容には参照ページURLが含まれており、ユーザーは参照ページにクリック1つで移行し、出力内容の効率的な事実確認を行うことが可能です。

また、AIチャットには「Bing Image Creator」とよばれる画像生成機能が搭載されており、チャットを使って画像の生成もできます。ただ、応答回数の制限やBing自体のシェアの低さといった課題も残されています。

CopilotでできることやChatGPTとの違いなど、下記記事で解説していますのであわせてご覧ください。
Bing AIとは？新機能やCopilot（旧Bing AIチャット）の使い方・生成のコツを丁寧に解説！

Google「Gemini」

Googleが開発した「Gemini（旧Bard）」は、LaMDAと呼ばれる対話アプリケーション向けのモデルをベースに採用した対話型AIサービスです。世界中の幅広い知見を、LLMの知能や創造性と組み合わせることを目的として立ち上げられました。

人間のような自然な会話が可能なAIチャットシステムに、Googleの検索サービスを連携しており、インターネット上の最新情報を含む回答の提供が期待できます。

ChatGPTに遅れを取る形で公開された「Bard」ですが、2023年4月に日本でも一般向け英語版としてリリースされ、2023年5月には日本語対応もスタートしています。ただ、情報の正誤確認などの注意点もあります。

「Bard」の基本情報やChatGPTの比較については、下記記事をご覧ください。
Google Bardとは？ChatGPTとの違いや利用時の注意点を解説

大規模言語モデル（LLM）の企業における活用方法

ここからは、企業におけるLLMの活用方法について解説します。

カスタマーサポート

AIチャットボットを活用することで、顧客対応を自動化し、オペレーターの負担軽減やコスト削減を実現します。また、24時間対応により顧客満足度が向上し、信頼関係の構築に寄与します。

市場調査や文章作成

LLMを使ってテキスト生成や要約を行い、意思決定を迅速化します。大量の情報を処理し、市場トレンドの分析に役立ちます。

アプリケーション開発

LLMによるコード生成やバグ検出により、開発の効率と品質が向上します。開発者はクリエイティブな業務に集中でき、開発コストの削減も期待されます。

企業の大規模言語モデル（LLM）活用事例

ここからは、実際に大規模言語モデル（LLM）を活用している企業の事例を紹介します。

フリマアプリで知られる株式会社メルカリでは、生成AIによる「メルカリAIアシスト」の提供を開始しました。機能の第一弾として、メルカリアプリ上の出品商品の改善提案を導入しています。

出品されている商品情報をAIが分析し、商品を売れやすくするためのアクションをユーザーに提案します。この機能により、購入者にとってより魅力的な商品情報が公開され、迅速な購入決断につながるというメリットも期待できます。

メルカリAIアシストでは、出品・購入だけでなく、メルカリを使用する際のさまざまな場面でAIによるサポートが受けられるよう機能のリリースが計画されています。
メルカリ、生成AI・LLMを活用した「メルカリAIアシスト」を提供開始

大規模言語モデル（LLM）まとめ

大規模言語モデル（LLM）は、言語モデルのうち、大規模なデータセットを使って学習させたモデルのことです。質問への回答や文章要約、機械翻訳など幅広いタスクに応用が可能で、教育や医療など幅広い場面ですでに利用されています。

ChatGPTやGoogleの「BARD」をはじめ、多くのLLMが日々登場していますが、まだ完全とはいえず、いくつもの課題が残されています。ユーザー側はそのことを念頭に置いた上で、適切な使い方をする必要があります。

現在、日本語での自然な対話ができ、総合的な使用感の高いChatGPTの活用が有用です。ChatGPTのAPI連携もスタートした今、自社に最適なサービスの比較検討に以下「ChatGPT連携サービス一覧」をご活用ください。

ChatGPT連携サービス一覧ページ

AIについて詳しく知りたい方はこちらの記事もご覧ください。
AI・人工知能とは？定義・歴史・種類・仕組みから事例まで徹底解説

LLM関連のニュース一覧まとめ

2024/11/22

• NTT Com、tsuzumiなどのLLMを活用したセキュリティ運用支援ソリューション「AI Advisor」を開発

2024/11/15

• Google、Workspaceユーザー向けに「Google Vids」を提供開始。Geminiがビジネス動画作成を支援

2024/11/13

• 日本初、積水ハウスが住宅検討層向けにチャットで気軽に相談できる「AIクローンオーナー」サービスを開始

2024/11/12

• 医療従事者の文章作成業務を生成AIが支援。オンプレミスLLM搭載サービス「OPTiM AI ホスピタル」を2025年1月に販売開始

2024/11/11

• UiPath、Anthropicの言語モデル「Claude 3.5 Sonnet」を統合。ヘルスケア業界向けの生成AIソリューションで新たなAI機能を提供すること発表

2024/11/7

• JINGS、日本経営と共同で生成AI /LLMを活用したシステム開発部門の業務効率化支援プロジェクトを開始

2024/11/1

• オルツ、日本語RAG（検索拡張生成）で軽量型LLMとして世界最高の精度と推論速度を実現。新たに「LHTM-OPT2」をリリース

2024/10/22

• LUVO、オルツのAI技術を活用しAI社員派遣・AIオリジナルキャラクター制作サービスを提供開始

2024/10/1

• NXグループとグルーヴノーツ、最適化技術で航空貨物の混載仕立て業務を自動化。5年で25%削減を目指す

2024/9/27

• テックファーム、デジタルヒューマンと生成AIを組み合わせた「感情推定」アバターシステムを開発

2024/9/26

• 生成AIサービス「dailyAI」がSharePoint Onlineと連携。GPT-4o miniにも対応し、検索効率向上・ヘルプデスクの負荷を軽減
• Google、ハルシネーションに対応する初のオープンモデル「DataGemma」を発表

2024/9/24

• Google、Geminiと自然な会話が可能な「Gemini Live」を無料提供開始。日本語対応は未定
• JTP、OpenAIの最新モデル「o1-preview」「o1-mini」を「Third AI」に対応完了

2024/9/19

• 住友電工情報システム、エンタープライズサーチ「QuickSolution」のChatGPT（RAG対応）連携を強化

2024/9/13

• 西海市役所が自治体向けAI「ばりぐっどくん」の有用性を検証。2,072時間相当の業務時間削減を2ヶ月で実現
• OpenAI、新モデル「OpenAI o1」シリーズ発表。数学、科学、医療など複雑なタスクの推論が可能に

2024/9/12

• 会話型AIで愛媛県の移住をサポート。カヤックが「エーアイ移住コンシェルジュ」を開発
• Apple、「Apple Intelligence」を10月より米国で提供開始。日本語対応は2025年を予定

2024/9/9

• 日本アクセス、独自開発AIプラットフォームで流通業界の効率化と持続可能なビジネスを支援

2024/9/5

• ソフトバンク、生成AIエージェント「satto」のベータ版の提供を開始。シンプルな操作だけで業務を簡単に実行可能

2024/9/3

• ZOZO、生成AIでZOZOTOWN上のアイテムレビューのガイドライン違反をチェックするツールを開発

2024/9/2

• 菱洋エレクトロ、最新のNVIDIA DGXシステムの取り扱いを拡大
• エムニ、ファインチューニングを用いた特許翻訳特化型LLMを開発。GPT-4oや翻訳モデルを超える性能を達成

よくある質問

LLMとはどういう意味ですか？

LLMとは、大量のデータセットとディープラーニング技術を用いて構築された、機械学習の自然言語処理モデルのことです。

LLMとは大規模言語モデルのことですか？

大規模言語モデル（Large Language Models/LLM）は、言語モデルにおける種別の1つです。近年では、ニューラルネットワークを用いた言語モデル（ニューラル言語モデル）が自然言語処理の分野で広く使われています。

LLMと生成AIの違いは何ですか？

膨大なテキストデータを学習する大規模言語モデル（LLM）は、人間のようにクリエイティブな成果物を生み出せる生成AIの一例です。