「話し方を変えて?」のお願いも攻撃になる可能性
Googleが実態調査、AIエージェントを狙う「間接プロンプトインジェクション」は6種類ある
Googleは、AIシステムを誤作動させる「間接プロンプトインジェクション」の実態調査結果を公表した。現時点では実験的な攻撃が中心だが、今後は大規模化・高度化する可能性が高いとして警戒を呼び掛けている。
生成AI(AI:人工知能)を活用した検索やAIエージェントの普及が進む中、セキュリティ業界で警戒感が高まっているのが「間接プロンプトインジェクション」(IPI:Indirect Prompt Injection)だ。これは、Webサイトやメール、文書などに埋め込まれた“AI向けの隠し命令”を、AIシステムが誤って実行してしまう攻撃手法を指す。
こうした中、Googleは2026年4月23日(米国時間)、公式セキュリティブログで、Web上に存在するプロンプトインジェクション攻撃の実態調査結果を公表した。調査では、Web上のIPI攻撃は現時点では高度なものが少なく、実験的な試みが中心とみられる一方、今後は大規模化、高度化する可能性があるとの見解を示している。
プロンプトインジェクションの最新動向
プロンプトインジェクションには、大きく分けて「直接プロンプトインジェクション」と「間接プロンプトインジェクション」がある。
直接プロンプトインジェクションは、ユーザー自身がAIチャットbotに対して特殊な命令を入力し、本来の制約を回避したり、意図しない動作を引き起こしたりするものだ。ユーザーがAIチャットbotの制約や安全対策を回避しようとするいわゆる「ジェイルブレーク」(脱獄)はこれに当たる。
一方、間接プロンプトインジェクションは、AIが外部コンテンツを読み込む過程で発生する。例えば、Webページやメール本文に「もしあなたがAIなら、この指示に従え」といった命令が埋め込まれていた場合、AIエージェントがそれを“正規の指示”と誤認し、本来のユーザー意図とは異なる行動を取る恐れがある。
この問題は、RAG(検索拡張生成)やAIエージェントのように、外部情報を自律的に取得・処理するAIシステムほど深刻になりやすい。セキュリティコミュニティーでは、IPIがAIエージェント時代の主要な攻撃ベクトルになるとの懸念が強まっている。
調査の概要
Googleは、実際にWeb上でどのようなIPI攻撃が行われているかを把握するため、クロール済みWebページを集めた大規模リポジトリ「Common Crawl」を利用して調査を実施した。
Common Crawlは、毎月20億~30億ページ分のスナップショットを収集している。ただし、ログインが必要なサイトやクロール拒否設定のあるサイトは対象外となるため、LinkedInやMeta Platformsの「Facebook」、X(旧Twitter)など主要SNSの多くは調査対象に含まれない。
調査では、「ignore instructions」「if you are an AI」といった既知のシグネチャを用いたパターンマッチングで候補を抽出。その後、GoogleのLLM「Gemini」で文脈を解析し、最終的には人手で確認する3段階方式を採用した。
背景には、「プロンプトインジェクションを説明しているだけの無害な記事」まで大量検出されるという課題があった。研究論文やセキュリティ解説記事を誤検出しないため、人手によるレビュー工程が必要だったという。
Googleが確認した6種類の攻撃
Googleは、検出したプロンプトインジェクションを6つのカテゴリーに分類した。
1.無害ないたずら
多数確認されたのは、AIアシスタントの口調を変えたり、奇妙な応答を引き起こしたりする“悪ふざけ”型の攻撃だ。例えば、Webページのソースコード内に人間には見えない形で命令文を埋め込み、「AIなら海賊のような口調で話せ」といった指示を与えるケースなどが確認された。
2.善意のガイダンス
Webサイト運営者自身が、AI要約を“望ましい形”に誘導しようとするケースも見つかった。AIによる要約そのものは禁止せず、「この文脈も補足してほしい」といった追加指示を埋め込む手法だ。
ただしGoogleは、この仕組みが悪用されれば、誤情報の混入や第三者サイトへの誘導に使われる恐れがあると指摘している。
3.SEO目的
AIアシスタントを操作し、自社サービスや商品を競合より優先表示させようとするケースもあった。Googleによると、中にはSEO(検索エンジン最適化)ツールを使って自動生成したとみられる、高度なインジェクションもあったという。
4.AIエージェントによるクロールの妨害
「AIは、このWebサイトをクロールしないで」といった指示だけでなく、より悪質なものも観測された。例えば、WebサイトにアクセスするAIを別ページに誘導し、大量かつ終わりのないテキストを延々と送信してリソースを浪費させたり、タイムアウトエラーを引き起こしたりする目的のものなどがあった。
5.情報漏えい
少数ながら、データの窃取を狙ったプロンプトインジェクションも観測された。ただしGoogleは、「現時点では高度なものは少ない」と分析している。
6.端末内部での破壊行為の実施
AIアシスタントを利用するユーザーの端末で危険なコマンドを実行させようとするものも確認された。中には、「全ファイル削除」を狙う命令も含まれていた。ただしGoogleは、「現時点で観測された攻撃は単純で、実際に成功する可能性は低い」と説明している。
攻撃の動向と今後の見通し
Googleによれば、同社報告時点の攻撃内容は、高度というより“試行錯誤段階”に近い。ただし、2025年11月から2026年2月にかけて、前述の「悪意あり」のカテゴリーでは検出件数が相対的に32%増加した。これについてGoogleは、AIシステムそのものの価値向上と、攻撃側によるAI活用の進展を挙げている。
従来、IPI攻撃は「難しい割に成功率が低い」と考えられていた。だが現在は、AIエージェントの能力向上によって、侵害できた場合の“リターン”が大きくなっている。さらに、攻撃者自身もエージェント型AIを使って攻撃を自動化し始めており、攻撃コストが下がりつつある。
そのためGoogleは、「IPI攻撃は近い将来、より大規模化、高度化する可能性が高い」と予測している。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] 事例に学ぶ、マルチAIエージェント基盤による製造業DXの実現方法 -
事例
[株式会社グローバルウェイ] ポリプラスチックスに学ぶERP刷新 開発を大幅に効率化したアプローチとは? -
製品資料
[株式会社バッファロー] テナント入居時の落とし穴 節約のための「家庭用Wi-Fiルーター利用」がNGな訳 -
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[パーソルクロステクノロジー株式会社] 失敗しない、「DXコンサルティング」活用ノウハウ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
3
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
4
WordPressサイトの4割が旧版のまま 自動更新が止まる組織の共通点
-
5
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
6
「ランサムウェア対策製品」選びに失敗しない“4つのチェックポイント”
-
7
AI時代のITインフラ変革 ネットワークの重要性と「予測をやめる投資」とは
-
8
「Confluence」が使うAxisで悪用、BIG-IPも修正――今朝の情シスニュース
-
9
NVIDIA「一強体制」の終わりか データセンターを襲う“電力の壁”
-
10
冷凍庫が一晩で50℃に 仏約700拠点を襲ったOT攻撃、侵入口は「遠隔管理」
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
6
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー