AIアシスタントサービス「Amazon Q」で発生したプロンプトインジェクション攻撃は、生成AIを業務で活用する際のリスクを浮き彫りにした。専門家は「AIが既存のセキュリティリスクを増幅する典型例」と分析する。
AI（人工知能）技術を使ったツールに起因するセキュリティ事故が相次いでいる。「AIを導入した結果、想定外のリスクにさらされた」「開発環境で不審な挙動が発生した」といった報告は、AI活用を進める組織にとって看過できない状況だ。
2025年7月に発生した、Amazon Web Services（AWS）のAIアシスタントサービス「Amazon Q」への攻撃は、その一例となった。攻撃者はリポジトリに悪意あるプロンプト（生成AIへの指示）を挿入。自律的に動作するプログラムであるAIエージェントに対して「システムをほぼ初期化し、クラウドリソースを削除せよ」と命じようとした。
Amazon Qへの今回の攻撃では構文エラーで実行が阻止され、実害は免れた。だが、サプライチェーン攻撃とプロンプトインジェクションを組み合わせた新たな手口によるリスクが明らかになった。プロンプトインジェクションとは、悪意あるプロンプトによって想定していない動作を生成AIツールにさせ、問題を発生させる手法だ。
今回の攻撃では、匿名の人物がAmazon QのVisual Studio Code拡張機能（バージョン1.84）のGitHubリポジトリに、悪意あるコマンドを仕込んだ。Amazonの事後調査によると、攻撃者はリポジトリのコードビルド設定に紐付いていた過大な権限のGitHub認証トークンを悪用し、通常は触れられないリリース工程へ不正アクセスしていた。実際には構文エラーで実行は止まったものの、攻撃者は「AWSのセキュリティ対策が緩いことを示すためにわざと無効化した」と主張している。
セキュリティ専門家はこの事件をオープンソースサプライチェーン攻撃の典型例と位置付ける。独立コンサルタントのエイドリアン・サナブリア氏は「オープンソースでは外部からの支援を歓迎する文化がある。エンジニアは、見知らぬ相手のプルリクエスト（ソースコードの変更内容を取り込むようリクエストすること）を無警戒に受け入れがちだ」と警鐘を鳴らす。
AIの普及によって攻撃者が狙える範囲は急速に広がった。プロンプトインジェクションは正式なマージプロセス（コード統合処理）さえ経る必要がない。サナブリア氏は「生成AIが受け取るあらゆる入力に悪意のプロンプトが潜む恐れがある」と警告する。
ビジネス特化型SNS（ソーシャルネットワーキングサービス）「LinkedIn」のプロフィール文にわなとなるプロンプトを埋め込み、AIを利用するリクルーターを狙う手口も確認されている。IDCのアナリスト、マシュー・フラグ氏は「AIによるコーディングの民主化はセキュリティ面では諸刃の剣だ」と指摘する。
CloudflareやPalo Alto Networksなどのセキュリティベンダーは、生成AIが受け取る入力と出力を検査し、危険なプロンプトを遮断するフィルタリングツールを提供している。サナブリア氏は「これらはAI版Webアプリケーションファイアウォール（WAF）として、モデルの前面に配置する保護層になる」と述べる。
しかしAmazon Qの事例で本質的に問題だったのは、ツールの有無ではなく運用の土台だ。セキュリティベンダーChainguardのCTO（最高技術責任者）兼共同創設者マット・ムーア氏は「管理されていない認証情報、不十分な環境分離、多層防御の欠如が根本原因だった」と指摘する。
ムーア氏が推奨する対策は以下の通りだ。
これらの基本対策が徹底されていれば、今回の攻撃は防げた可能性がある。AI時代のセキュリティでは新しい防御ツールの導入と並行して、最小権限や環境分離、多層防御、短命トークンなど従来からの基本を確実に実施することが不可欠だ。攻撃対象が拡大する今こそ、企業は土台からセキュリティを強化する包括的なアプローチを取る必要がある。
翻訳・編集協力：雨輝ITラボ（リーフレイン）
Copyright © ITmedia, Inc. All Rights Reserved.
なぜクラウド全盛の今「メインフレーム」が再び脚光を浴びるのか
メインフレームを支える人材の高齢化が進み、企業の基幹IT運用に大きなリスクが迫っている。一方で、メインフレームは再評価の時を迎えている。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年5月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
ITmediaはアイティメディア株式会社の登録商標です。
