生成AIツールは無防備？
Copilotが危ない？ 生成AIから「認証情報が盗まれる」手口が明らかに
生成AIツールの普及に伴って新しい脅威として広がりつつあるのが、プロンプトインジェクション攻撃だ。「Copilot」などの生成AIツールのどのような機能や欠点が狙われるのか。
サブスクリプション形式のオフィススイート「Microsoft 365」などのアプリケーションに組み込まれた「Microsoft Copilot」（以下、Copilot）。このAI（人工知能）アシスタントを使っていると、「プロンプトインジェクション攻撃」を受けるリスクがある。セキュリティベンダーZenity最高技術責任者（CTO）のマイケル・バーガリー氏は、セキュリティのイベント「Black Hat USA 2024」でその詳細を説明した。
Copilotから「認証情報が盗まれる」手口とは
併せて読みたいお薦め記事
プロンプトインジェクション攻撃とは何か
プロンプトインジェクション攻撃とは、攻撃者が悪意のあるプロンプト（生成AIへの指示や命令）を入力してユーザーをだましたり、データを盗んだりする手法だ。
2024年8月、米ラスベガスで開催されたイベント「Black Hat USA 2024」で、Zenityのバーガリー氏は同社AIセキュリティソフトウェアエンジニアのタミル・イシャイ・シャルバット氏と共に、Copilotユーザーを標的にしたプロンプトインジェクション攻撃を紹介。バーガリー氏は、攻撃者がメールに隠しコードを挿入することでCopilotに対する不正なプロンプトを実行する方法を実演した。
バーガリー氏は不正なプロンプトを実行する幾つかの例を紹介した。例えばCopilotに偽のMicrosoft 365ログインページを表示させ、標的となるエンドユーザーの認証情報を取得するフィッシング攻撃が可能になるという。「Copilotはユーザーに代わって操作を実行するアクセス権限を持っているので、攻撃に悪用されやすい」とバーガリー氏は述べる。攻撃者がCopilotに不正なプロンプトを実行させることができれば、広範囲にわたってユーザー組織に被害が及ぶ恐れがあるとみて同氏は警戒を促す。
Copilotを狙った攻撃のリスクを受け、Zenityはホワイトハッカー（倫理的ハッカー）向けのCopilot用攻撃ツール「LOLCopilot」を開発。Black Hat USA 2024で発表した。同社によると、LOLCopilotを使えば、Copilotのさまざまなセキュリティの弱点を洗い出し、攻撃防止の対策を検討できるようになる。「LOLCopilotがサイバー犯罪者の手に渡らないように、Microsoftと協力して取り組んでいる」とバーガリー氏は言う。
バーガリー氏によると、生成AIツールに不正なプロンプトを検出するための機能がないことは、セキュリティの大きな欠点になる。「生成AIツールにも、メールシステムと同様のスパムフィルターが必要だ」（同氏）
プロンプトインジェクション攻撃を防ぐために、Copilotのユーザー組織はCopilotの会話を監視して、不審な動きに気付いたらすぐに対策を講じることが求められる。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社キーエンス] PCが苦手でも自動化できる ポポラマーマなど4事例に学ぶ「ナビ搭載型RPA」活用 -
製品資料
[株式会社クレオ] IT部門を“価値創造組織”へ転換 IT管理プロセスの改革で戦略的リソースを確保 -
製品資料
[株式会社クレオ] Excel管理が限界に――ITサービス管理の脱・属人化と運用高度化を実現する方法 -
製品資料
[株式会社クレオ] 西武グループやイオングループも実践 事例に学ぶ「ITサービスデスク業務」改善 -
製品レビュー
[株式会社クレオ] 「使われないITシステム」から脱却 現場が求める業務改善を実現する方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
2
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
3
「レガシーシステム・老朽化システムの運用課題と刷新」に関するアンケート
-
4
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
5
1回で分かる：仮想マシンを丸ごとバックアップする「VADP」の仕組み
-
6
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
7
セキュリティは「情シス任せ」が過半数 漏えい発生時やSCS評価制度の課題は？
-
8
脱VMwareか、継続か？ 仮想化ソフト主要6製品の運用管理と統制機能を徹底比較
-
9
情報漏えいはなぜ繰り返されるのか 今すぐ見直すべき「境界」
-
10
世界PC出荷数が20％急減 情シスを直撃するPC先行調達の反動と価格高騰
ホワイトペーパーランキング PR
-
1
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
2
システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
-
3
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
4
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
5
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
6
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
7
東大教授と考える、AI時代の「データ主権」「信頼性」「ガバナンス」の在り方
-
8
Linux初心者でも知らないとまずい「RHEL」「SLES」の違いとは？
-
9
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
10
生成AIの活用を阻む「5つの壁」とは？ AIネイティブ組織へ変革を遂げる方法
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー