生成AIに仕掛けられる“見えないわな”

社内のRAGも標的に――「間接プロンプトインジェクション攻撃」の脅威とは

LLMの安全性を高める手法として注目されてきた「RAG」（検索拡張生成）だが、その仕組みを逆手に取った攻撃手法「間接プロンプトインジェクション」が問題視されている。脅威の実態を解説する。

　生成AI（AI：人工知能）は、人間の指示を受け取り、有益な情報を返すように設計されている。では、その「人間の指示」が悪意に満ちたものだった場合はどうだろうか。

　2025年4月、英国のAI研究所Alan Turing Instituteの年次イベント「CETaS Annual Showcase 2025」では、大規模言語モデル（LLM）や「RAG」（検索拡張生成）の仕組みを悪用する攻撃のリスクが取り上げられた。

RAGを悪用する「間接プロンプトインジェクション攻撃」とは？

Computer Weekly発　世界に学ぶIT導入・活用術

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  「RAG」が特に危ない？　NVIDIAが指摘した生成AIの“2大脅威”

• 

  “生成AIのデータ漏えい”はこうして起こる　よくある6つの事例

新着ホワイトペーパー PR

• 製品資料
  [株式会社うるる] 「入札市場」攻略ガイド：効率的に落札するためのポイントを徹底解説
• 製品資料
  [株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは？
• 市場調査・トレンド
  [株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」
• 製品資料
  [日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合／分離」を成功に導く秘訣
• 製品資料
  [rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用