従来型セキュリティの限界
壊滅的被害をもたらすAIエージェントの「3大リスク特性」から会社を守る防御策
自律型AIが持つ「データアクセス・外部通信・自律実行」の組み合わせは、企業に壊滅的被害をもたらす3大リスク特性だ。従来のセキュリティツールが通用しない中、情シスはどう立ち向かうべきか。現実的な防御策を提示する。
既に多くのCISO(最高情報セキュリティ責任者)が、AIセキュリティの議論で「リーサルトライフェクタ(lethal trifecta)」という言葉を耳にしているだろう。この用語は、AIエージェントが持つ3つのリスク特性の組み合わせを指し、これらがそろうと、エージェントは攻撃に脆弱(ぜいじゃく)となり、導入企業に甚大なリスクをもたらす。
この言葉は、Djangoの共同開発者としても知られるプログラマーのサイモン・ウィリソン氏がエージェント型AIに関連して提唱したものだ。残念ながら、サイバーセキュリティ分野で共通の定義は確立されていない。アナリストや研究者によって、挙げる要素が異なるからだ。もちろん要素は3つに限定されないが、「quadfecta(四要素)」や「quintfecta(五要素)」といった適切な呼称がないのも現状だ。
ウィリソン氏が説明した「リーサルトライフェクタ」は、以下の3つの特性を中心としている。
- 機密情報へのアクセス:従業員や顧客の個人情報、または機密扱いの知的財産へのアクセス権
- 制御不能なコンテンツの取り込み:企業が管理していない外部のWebサイトなどからデータを読み取ること。それらのデータには、意思決定を狂わせる偽情報や、エージェントの目的を書き換える「隠れプロンプト」が含まれる恐れがある
- 外部との通信能力:外部と通信し、データを持ち出す(エクスフィルトレイション)能力
一方で、以下の特性を重視する専門家もいる。
- 他システムへの操作権限:ネットワーク機器の設定変更やデータベースの修正など、社内システムに影響を及ぼす権限
- 自律的な長期目標の追求:人間による再確認なしに、長期的な目標を計画し適応させる能力。低リスクな脆弱性を組み合わせて最終的に特権アクセスを奪取するなどの高度な攻撃も可能になる
- 自己改善と機能拡張:自身のコードや目的を修正したり、不足を補う別のツールを見つけたりする能力。より優れたモデルを設計し、それに基づいたツールを自作して使用する場合もある
- 処理速度:人間による統治(ガバナンス)の仕組みが追い付かないほどの速度で動作する能力
- プロンプトドリフト(非決定性):同じ指示でもAIが毎回異なる結果を出す特性。いわゆる「ジェイルブレイク(脱獄)」攻撃の多くはこれを利用してAIの制約を突破しようとする
- コストの不確定性:消費トークンに伴う実コストが再帰的なループなどによって予測不能に膨れ上がるリスク
- 超人的な説得力:人間以上の説得力を持ち、かつてない規模で高度なソーシャルエンジニアリング攻撃を実行する能力
どの要素を採用するにせよ、核心は同じだ。AIに「自律性」と「社内環境での操作権限」が加われば、壊滅的な結果を招きかねないということである。
3大リスク特性に注目すべき理由
「AIエージェントのセキュリティ」に関連する編集部お薦め記事
エージェンティックAIは、既存のあらゆるサイバー脅威を悪用できる新しいカテゴリーの脅威だ。データへのアクセス権、外部接続性、自律的な操作能力を併せ持つエージェントは、システムの再設定やデータの持ち出しを自在に行う。これは深刻なインサイダー脅威であると同時に、外部攻撃者にとっての格好の攻撃経路となる。
従来のWebアプリケーションファイアウォール(WAF)などのツールでは、プロンプトインジェクションのような攻撃を防げない。企業は、新しいAIセキュリティツールを統合し、利用規定やインシデント対応方針を更新するために中核となるアーキテクチャを見直す必要がある。どの定義を三要素として採用するにせよ、CISOはセキュリティとガバナンスの対応を主導しなければならない。
リスクへの露出を評価する方法
CISOは、自組織がリーサルトライフェクタのリスクにどの程度さらされているかを、以下の質問で評価すべきだ。
- AIエージェントは、CRM(顧客関係管理)などの基幹システムにどの程度アクセスできるか
- AIエージェントは、社内データにどの程度アクセスできるか
- AIエージェントは、ネットワーク機器やIaaS、DNSなどのインフラやサービスにどの程度アクセスできるか
- AIエージェントは、インターネットにどの程度アクセスできるか
- Model Context Protocol(MCP)などを通じて、外部エンティティが社内システム(AIエージェント含む)にどの程度アクセスできるか
これらの回答から、社内のAIエージェントの影響範囲とリスクの基準が明確になる。もし、確信を持って答えられない項目があるなら、それ自体が大きなリスクの兆候といえる。
緩和策
3大リスク特性に対する最も有効な戦略は、ゼロトラストの導入だ。AIインフラにゼロトラストの原則を浸透させ、IDと許可リストに基づいてアクセスを厳格に制限する。最低限、以下の対策を講じるべきだ。
- AIエージェント向けのID管理:専用のID管理システムを導入するか、既存システムをエージェントの速度と規模に対応できるよう拡張する
- 通信の集約:AIエージェントの通信をMCPゲートウェイなどに集約し、アクセス制御と振る舞いを監視する
- 「デフォルト拒否」の徹底:全てのアクセスを原則拒否し、必要なエンティティにのみ特定の操作を許可する
さらに、以下のツールセットを活用する。
- セマンティックファイアウォール:プロンプトインジェクションや催眠的な攻撃試行を検知する
- パス依存型のアクセス管理:過去のプロンプト文脈に基づいて入出力を評価し、長期にわたる巧妙な攻撃パターンを監視する
- モデルドリフト監視:AIの挙動の変化を監視する
- 振る舞いベースの脅威監視:許可されていない操作を繰り返すなど、リスクの高い挙動を検知して遮断する
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
課題解決
[NTT東日本株式会社] いま建設業に「10ギガ光回線」が必要な理由とは? -
課題解決
[NTT東日本株式会社] 情報漏えいも業務停止もさせない「止まらないネットワーク」への第一歩は? -
課題解決
[NTT東日本株式会社] 情報漏えいや業務停止に備える、安心・安定のネットワーク環境とは? -
事例
[Wrike Japan 株式会社] 年間100件超でも“プロジェクト炎上”を回避、JERAの管理体制は何が違うのか? -
事例
[Wrike Japan 株式会社] プロジェクト納品時間を最大40%短縮 事例で見る「劇的な高速化」の実現方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
2
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
3
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
4
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
5
企業が「Microsoft Azure」を選ばざるを得ない理由
-
6
なぜ「PHP2Shell」はパッチを当てても終わらないのか?
-
7
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
-
8
「Android」の極悪マルウェア、非公式アプリからうっかり感染しないためには?
-
9
AI時代のPC選定は“適材適所” 情シスが押さえておきたい3つの選択肢とは?
-
10
Outlookでゼロデイ悪用、ChromeはXSLT停止――今朝の情シスニュース
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
6
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
「止まらない」と「シンプル運用」を両立、四街道市新庁舎を支えるネットワーク
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー