「LLM」とは何か

「LLM」（大規模言語モデル）とは？　「ChatGPT」にも使われる仕組みを解説

生成AI分野に欠かせないのが「LLM」であり、これはOpenAIのチャットbotサービス「ChatGPT」にも用いられている。本稿はLLMの技術を詳しく解説する。

LLMとは

　大規模言語モデル（LLM）は、人工知能（AI）モデルの一種だ。ディープラーニング（深層学習）技術と大規模なデータセットを用いて、新しいコンテンツの生成や要約をしたり、次に起こることを予測したりする。

　生成AI（ジェネレーティブAI）技術は、LLMと密接な関係がある。LLMはテキストベースのコンテンツを生成するために特別に設計されたジェネレーティブAIの一種だからだ。

　言語は、あらゆるコミュニケーションの中核となる概念だ。人間が事実や自分の考えを他人に伝えるために、言葉や文法は不可欠だ。AIシステムでも、言語モデルが同様の役割を果たす。言語モデルはAIシステムが新しい言葉を生み出すための仕組みとなる。

　言語モデルのルーツは、1966年にさかのぼる。1966年にマサチューセッツ工科大学（MIT）で完成した「ELIZA」は、言語モデルの最初期の例だ。

　現代の言語モデルを利用可能にするにはまず、学習データ群を言語モデルに取り込む。次に、取り込んだ学習データから言葉同士の関連性やパターンを推測できるようにする。その後、学習されたデータに基づいて新しい文章や画像といったコンテンツを生成できるようにする。

　言語モデルは一般的に、ユーザーが自然言語で命令を入力して結果を生成するAIアプリケーションで使用される。LLMは、AIにおける言語モデルが進化した概念だ。トレーニングと推論に使用するためにより多くの学習データを使用することで、AIモデルの能力が大幅に向上する。

LLMが企業にとって重要になりつつある理由

　AI技術が成長し続けるにつれ、ビジネスでAI技術を活用することはますます重要になる。機械学習モデルを作成し、ビジネスに適用するプロセスでは、単純さと一貫性を維持することがポイントになる。解決しなければならない課題を明確にすることも、機械学習モデルの正確さを確保することと同様に不可欠だ。

大規模言語モデルの仕組み

　LLMの学習は、複数のステップを踏む。LLMはまず、コーパス（AIモデルが分析可能な形式に構造化された自然言語のデータ）を参照しながら、PB（ペタバイト）規模の学習データで学習する。この際、通常は教師なし学習（例題とその答えを組み合わせた「教師データ」を利用しない学習手法）を用いる。教師なし学習には、構造化されていないデータ とラベル付けされていないデータを利用する。ラベル付けされていないデータでトレーニングすることの利点の一つは、利用可能なデータを用意する負荷を軽減できることだ。この段階で、モデルは異なる単語や概念同士を関係付けられるようになる。

　次の学習ステップは、自己教師あり学習（前のステップでトレーニングしたLLMを新しい学習データで再学習させる手法）によるLLMの微調整だ。ここではデータのラベリングをして、モデルがより正確に異なる概念同士を識別できるようにする。その後の工程では、深層学習によってLLMが単語や概念間の関係や結び付きを理解し、認識できるようにする。

　訓練したLLMにプロンプト（指示）を入力することで、プロンプトに対して回答したり、新しくテキストを生成したりできるようになる。

大規模言語モデルは何に使われるのか

　LLMは、自然言語処理タスクに幅広く適用できるため、ますます人気が高まっている。以下で利用例を説明する。

• テキスト生成
  • 学習データを基に新しいテキストを生成する。
• 翻訳
  • 複数の言語を学習したLLMは、翻訳に利用できる。
• コンテンツの要約
• コンテンツの書き換え
  • テキストの一部を書き換える。
• 分類とカテゴライズ
  • LLMは複数の言葉や要素を分類することができる。
• センチメント分析
  • SNS（ソーシャルネットワーキングサービス）やWebサイトに投稿されたテキスト情報や音声情報を基に、個人の感情を分析できる。
• チャットbotシステムの構築
  • LLMは、ユーザーとの自然な会話を可能にする。

1. 05＃動画で分かるLLM

動画で分かるLLM

この記事の著者

関連記事

• 

  大規模言語モデル（LLM）活用の“勝ち組”になる条件とは？

• 

  「大規模言語モデル」（LLM）が犯罪さえも根幹から変えてしまう脅威

新着ホワイトペーパー PR

• 事例
  [株式会社キーエンス] PCが苦手でも自動化できる　ポポラマーマなど4事例に学ぶ「ナビ搭載型RPA」活用
• 製品資料
  [株式会社クレオ] IT部門を“価値創造組織”へ転換　IT管理プロセスの改革で戦略的リソースを確保
• 製品資料
  [株式会社クレオ] Excel管理が限界に――ITサービス管理の脱・属人化と運用高度化を実現する方法
• 製品資料
  [株式会社クレオ] 西武グループやイオングループも実践　事例に学ぶ「ITサービスデスク業務」改善
• 製品レビュー
  [株式会社クレオ] 「使われないITシステム」から脱却　現場が求める業務改善を実現する方法