従来型セキュリティの限界

壊滅的被害をもたらすAIエージェントの「3大リスク特性」から会社を守る防御策

自律型AIが持つ「データアクセス・外部通信・自律実行」の組み合わせは、企業に壊滅的被害をもたらす3大リスク特性だ。従来のセキュリティツールが通用しない中、情シスはどう立ち向かうべきか。現実的な防御策を提示する。

　既に多くのCISO（最高情報セキュリティ責任者）が、AIセキュリティの議論で「リーサルトライフェクタ（lethal trifecta）」という言葉を耳にしているだろう。この用語は、AIエージェントが持つ3つのリスク特性の組み合わせを指し、これらがそろうと、エージェントは攻撃に脆弱（ぜいじゃく）となり、導入企業に甚大なリスクをもたらす。

　この言葉は、Djangoの共同開発者としても知られるプログラマーのサイモン・ウィリソン氏がエージェント型AIに関連して提唱したものだ。残念ながら、サイバーセキュリティ分野で共通の定義は確立されていない。アナリストや研究者によって、挙げる要素が異なるからだ。もちろん要素は3つに限定されないが、「quadfecta（四要素）」や「quintfecta（五要素）」といった適切な呼称がないのも現状だ。

　ウィリソン氏が説明した「リーサルトライフェクタ」は、以下の3つの特性を中心としている。

• 機密情報へのアクセス：従業員や顧客の個人情報、または機密扱いの知的財産へのアクセス権
• 制御不能なコンテンツの取り込み：企業が管理していない外部のWebサイトなどからデータを読み取ること。それらのデータには、意思決定を狂わせる偽情報や、エージェントの目的を書き換える「隠れプロンプト」が含まれる恐れがある
• 外部との通信能力：外部と通信し、データを持ち出す（エクスフィルトレイション）能力

　一方で、以下の特性を重視する専門家もいる。

• 他システムへの操作権限：ネットワーク機器の設定変更やデータベースの修正など、社内システムに影響を及ぼす権限
• 自律的な長期目標の追求：人間による再確認なしに、長期的な目標を計画し適応させる能力。低リスクな脆弱性を組み合わせて最終的に特権アクセスを奪取するなどの高度な攻撃も可能になる
• 自己改善と機能拡張：自身のコードや目的を修正したり、不足を補う別のツールを見つけたりする能力。より優れたモデルを設計し、それに基づいたツールを自作して使用する場合もある
• 処理速度：人間による統治（ガバナンス）の仕組みが追い付かないほどの速度で動作する能力
• プロンプトドリフト（非決定性）：同じ指示でもAIが毎回異なる結果を出す特性。いわゆる「ジェイルブレイク（脱獄）」攻撃の多くはこれを利用してAIの制約を突破しようとする
• コストの不確定性：消費トークンに伴う実コストが再帰的なループなどによって予測不能に膨れ上がるリスク
• 超人的な説得力：人間以上の説得力を持ち、かつてない規模で高度なソーシャルエンジニアリング攻撃を実行する能力

　どの要素を採用するにせよ、核心は同じだ。AIに「自律性」と「社内環境での操作権限」が加われば、壊滅的な結果を招きかねないということである。

3大リスク特性に注目すべき理由

TechTarget発　先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  AIエージェントがマルウェア化？　新たな脅威「プロンプトウェア」の防御策とは

• 

  情シスが知るべき「AIランタイムセキュリティ」の現実的な対策

• 

  もう「PC管理」だけでは守れない　情シスが押さえるべき新デスクトップ戦略5選

• 

  OpenClawは”便利ツール”ではない――情シスが知るべきAIエージェントの最悪リスク6選