調査では、サイバー攻撃者がAIエージェントを単なる文章生成ではなく、自律的に機能するエージェントとしてシステム開発に組み込んでいることが明らかになった。

　レポート内で「STAC6994」と呼称される事例では、攻撃者がクラウドインフラの仮想マシンにAIエージェントを導入し、セキュリティ製品を回避するためのテストを自動化していた。約12個のAIエージェントが連携し、中核となる操作、運用上のセキュリティ強化、攻撃用プログラムのソースコードの記録、仮想マシンの展開など、明確に役割を分担して稼働していたという。

　各AIエージェントは公開されている調査記事から攻撃手法を抽出し、試験環境で実行して結果を評価するプロセスを反復した。展開されたマルウェア自体にAIエージェントが組み込まれた証拠はないものの、人間のレビューとAIエージェントによる反復作業を組み合わせることで、開発にかかる期間を数週間から数日へと圧縮している。攻撃者は、既存の手法をより速く、より正確に実行するための仕組みとしてAIエージェントを活用し始めている。

　ソーシャルエンジニアリングの分野でもAI技術の活用が定着しつつある。生成AIによる音声botや合成プロフィール画像を用いたペルソナ作成機能がアンダーグラウンド市場で販売されており、攻撃者は従来の詐欺手法を多言語かつ大規模に展開できるようになった。

AIシステム自体が新たな標的に

　攻撃の速度が上がる一方で、企業が導入を進めるAIシステムそのものが新たな攻撃対象となっていることも構造的な課題だ。

　企業の開発者が日常的に利用するAIアシスタントやソースコード生成ツールは、社内システムと密接に連携している。調査では、正規のコードエディタ用拡張機能を模倣した悪意あるパッケージが配布され、開発者の端末からクラウドサービスの認証情報やAPIキーを気付かれないように窃取する手口が確認された。

　企業の業務システムとAIサービスを接続するためのアイデンティティー管理システムも狙われている。チャットbotに付与されたアクセス権限が奪われ、社内の顧客管理システムへの侵入に直結したケースが報告された。従業員が管理部門の許可を得ずに利用する「シャドーAI」が原因で、社内システムへの侵入経路を作ってしまうリスクも顕在化している。

企業に求められる設計思想の違い

　攻撃の高速化とAIシステムへの攻撃という2つの課題に対し、企業は従来の境界防御や事後対処を前提とした設計思想から脱却する必要がある。

　脆弱（ぜいじゃく）性の情報が公開されてから実際に悪用されるまでの期間は、現在では24時間から36時間程度にまで短縮された。人間によるログ監視と手作業での対処を中心とした体制では、攻撃の進行に後れを取る。この速度差を埋めるため、企業もAIモデルをセキュリティ運用に組み込むことが不可欠だ。大量のデータから脅威の仮説を立て、証拠に基づく要約を作成する初期対処をAIモデルに委ねることで、調査にかかる時間を数時間から数分へと短縮できる。

　ただし、AIモデルは万能ではない。正常な通信が大多数を占める中で真の脅威を見つけ出す振る舞い検出システムを完全に代替するものではなく、既存の多層的な検出体制の上位層としてAIを位置付ける設計が基本となる。

　企業がAIツールを安全に運用するためには、AIツールの利用を前提としたゼロトラストセキュリティが必要不可欠だ。具体的には、プロンプトの通信内容を重要なログとして監視し、データ漏えいや不正な命令の挿入を検出する機能を設ける。同時に、AIツールがシステムの認証情報を扱わないように分離し、取り消し不可能な重要操作には必ず人間の承認プロセスを組み込むといった権限管理の徹底が求められる。

ガバナンスと導入のジレンマをどう乗り越えるか

　AIツールの導入スピードに対して、企業内のガバナンス体制が追い付いていないのが現状だ。しかし、セキュリティ上の懸念を理由にAIツールの活用を過度に制限すれば、防御の初動対応で致命的な後れを取る結果になる。

　企業は自社のリスク許容度を正確に見極め、影響範囲を制御できるインフラを構築した上で、有用なシステムを積極的に取り入れる必要がある。外部通信の制限やサンドボックスによる実行プロセスの分離など、被害を局所化する技術的な安全網を敷くことで、リスクを抑えながらAI技術の恩恵を享受できるようになる。

　サイバー攻撃の基本的な仕組みがAI技術によって根本から変わるわけではない。しかし、実行速度の向上によって、防御の前提条件は確実に変化している。企業はAI技術がもたらす速度の脅威を正しく認識し、テクノロジーと運用体制の両方を継続的に適応させることが不可欠だ。