大規模言語モデル（LLM）と外部データを連携させて精度を高める「RAG」（検索拡張生成）の導入が進んでいる。その3つの設計パターンについて、RAG実装時の課題や設計パターンの選び方と併せて解説する。
「AI（人工知能）モデルが古い情報や間違った情報を回答してしまう」「AIチャットbot『ChatGPT』に社内の資料を読み込ませて質問したいが、機密情報を外部に送るのは不安だ」――。こうした生成AIの課題を解決する技術として注目されているのが、「RAG」（検索拡張生成）だ。
RAGは、大規模言語モデル（LLM）に外部のデータベースから関連情報を検索、取得させることで、より正確かつ最新の回答を生成する仕組みだ。基本的な構成のままでは期待する精度を出せないケースもあり、自社の目的やIT環境に応じた設計パターンの選定が不可欠となる。
本稿は、RAG導入時の課題から設計パターン、セキュリティ対策に至るまで、RAGを実装する際に押さえておくべきポイントを解説する。
まず、企業がRAG導入時に直面する代表的な課題を整理しておこう。
1つ目は「情報の粒度の問題」だ。社内文書をそのままLLMに投入しても、必要な情報を適切に抽出できないことがある。文書を適切な単位に分割し、インデックス化する必要がある。
2つ目は「検索精度の限界」だ。単純なキーワード検索では、ユーザーの文脈や意図を正確に把握できない場合がある。
3つ目は「回答の一貫性」だ。同じ質問でも、検索結果として得られる文書の組み合わせによって、異なる回答が生成される可能性がある。
これらの課題に対処するために、企業は自社に適するRAGシステムの設計パターンを検討する必要がある。
企業が扱うデータの規模や、RAGを導入する目的に応じて、さまざまな設計パターンが考案されている。代表的な3つを以下に紹介する。
最も基本的なRAGの形態で、「検索」「生成」の2段階で構成される。ユーザーの質問に対して関連文書を検索し、その結果を基にLLMが回答を生成する仕組みだ。
このパターンの利点は、実装の簡潔さにある。既存の検索エンジンとLLMのAPI（アプリケーションプログラミングインタフェース）を組み合わせるだけで構築でき、開発期間も比較的短い。
一方で、複雑な質問や、複数の文書にまたがる情報の統合が必要な場合には限界がある。そのため、小規模な文書セットを用いたユースケースに適している。
実際のデータ処理では、以下の4段階を経る。
このパイプラインの設計は、検索精度に大きく影響する重要な要素だ。
情報を階層的に整理し、段階的に検索範囲を絞り込むアプローチだ。まず大まかなカテゴリーで文書を分類し、次に詳細な検索を実行することで、検索精度を高めることができる。
例えば、人事関連の質問であれば、最初に「人事」カテゴリーの文書群に絞り込み、次に具体的な制度に関する文書を検索する。段階的に絞り込むことで、関連性の高い情報に効率よくアクセスできる。
階層型RAGは中規模から大規模の文書セットに適しており、組織の部門および業務単位など、自然な分類軸が存在するデータに効果的だ。ただし、階層構造の設計が検索精度を左右するため、分類軸の設定や粒度が重要になる。
複数の専門エージェントが連携して回答を生成する高度な設計パターンだ。各エージェントが特定の知識領域を担当し、質問の内容に応じて適切なエージェントが稼働する。
例えば、「新製品の開発スケジュールと予算の関係」について質問された場合、プロジェクト管理エージェントがスケジュール情報を、財務エージェントが予算情報を提供し、統合エージェントが両方の情報を組み合わせて最終的な回答を生成する。
この設計パターンは、部門横断的な知識統合や、細やかなアクセス制御を実現したい大規模組織に適している。一方で、エージェントの役割設計やシステム連携の構築など、開発および運用コストが高くなる傾向がある。
3つの設計パターンのうちどれを採用すべきかは、組織の規模と扱う情報の複雑さによって判断するのが現実的だ。
従業員数100人未満の小規模組織で、扱う文書が特定分野に限定される場合は、シンプルRAGから始めることを推奨する。開発工数が少なく、短期間で効果を実感しやすい。
従業員数100〜1000人規模の中規模組織で、複数の部門や事業領域にまたがる情報を扱う場合は、階層型RAGが適している。文書を部門別や業務別に分類することで、検索精度を高められる。
従業員数1000人以上の大規模組織で、複数の専門領域の情報を統合的に扱う必要がある場合は、マルチエージェントRAGを検討する価値がある。
重要なのは、スモールスタートで段階的に拡張することだ。まずシンプルRAGで基本機能を構築し、実際の利用状況と課題を把握した上で、必要に応じてより高度なパターンへの移行を検討する。組織に適した設計パターンを選択することで、RAG導入の効果を最大化できる。
RAGシステムの実装では、LLMとしてオープンソースモデルを利用するか、OpenAIやGoogleなどが提供する商用APIを利用するかの選択が重要となる。
オープンソースLLMの利点は、データを外部送信せずに処理できることにある。機密性の高い社内情報を扱う場合でも、オンプレミス環境や自社管理のクラウド環境でAIモデルを実行できるため、セキュリティ要件を満たしやすい。API利用料が発生しないため、長期的なコスト管理もしやすい。
対する商用APIの利点は、最新の高性能モデルをすぐに利用できることに加え、インフラ管理の負担がないことにある。特に、PoC（概念実証）や初期導入フェーズで迅速にAIモデルを試すことができる。
どちらを選択するかの基準として、以下の要素を踏まえて統合的に判断することを推奨する。
RAGシステムでは、社内の機密情報を扱うことが多いため、以下のようなセキュリティ対策が不可欠だ。
Copyright © ITmedia, Inc. All Rights Reserved.
「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ
ネットワークの問題は「帯域幅を増やせば解決する」と考えてはいないだろうか。こうした誤解をしているIT担当者は珍しくない。ネットワークを快適に利用するために、持つべき視点とは。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年5月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
ITmediaはアイティメディア株式会社の登録商標です。
