「社内にAIエージェントは何個ある？」に答えられないリスク “見えない資産”を掌握するシャドーAI時代の防衛策：Roval CEOが示すCIO向け3つの対策
従来のIT資産管理ツールでは追跡できないAIエージェントは増加傾向だ。IPアドレスを持たず、既存の監視の目をかいくぐる“見えない資産”にどう立ち向かうべきか、AIガバナンスプラットフォームのCEOに話を聞いた。
AIエージェントは、多くのCIO（最高情報責任者）が把握できる速度を上回って組織内に浸透している。
従業員が個人的に構築したものや、各部門が外部ツールに接続したものなど、その形態は多岐にわたる。SaaSベンダーが自社ソフトウェアに直接AIエージェント機能を組み込むケースも増えている。
こうしたシステムが機密データにアクセスしているにもかかわらず、多くの組織では台帳管理やガバナンスが不十分だ。CIOは、これらの動作を理解し、問題発生時に監査する方法を確立するという圧力にさらされている。
TechTargetは、AIガバナンスプラットフォームを提供するRovalの創設者兼CEOであるデービッド・バウム氏に取材した。同氏は、多くの企業が環境内で動作するAIエージェントを十分に把握・分類できていないと指摘する。既存のIT監視ツールでは追跡が難しく、台帳管理や監査に新たな手法が必要だという。
CIOがAIエージェントのガバナンスを維持するためのサマリ
- 所有者、権限、システムへのアクセス権を含めた、AIエージェントの中央台帳を構築する
- リスクレベルと、問題発生時の影響範囲の両面でエージェントを分類する
- 従業員向けの規定だけでなく、プロセスやネットワーク層で「ポリシー・アズ・コード」を適用する
- 組織全体の全てのエージェント、またはそのグループで明確な説明責任を割り当てる
- 各部門での試行を支援しつつ、現場に技術的な監視体制とガバナンスの専門知識を組み込む
AIエージェントの可視化が困難な理由
「シャドーAI」に関連する編集部お薦め記事
なぜ今、企業にとってAIエージェントの可視化がこれほど難しいのか。バウム氏によれば、理由は3つある。
第一に、AIエージェントは従来のシステムとは性質が異なる。AIエージェントは物理的なサーバではなく、IPアドレスも持たない。インフラの構成管理データベース（CMDB）には現れない足跡を残す。
第二に、AIエージェントは単一のアプリケーションではない。1つのSaaS内に複数のAI機能が含まれ、それぞれが独立したアクセスパターンを持つ。
第三に、AIエージェントはユーザーではない。ユーザーの代理として振る舞い、認証情報も使うが、既存のアイデンティティー管理（IAM）では異常な動作として検知しにくい。
「1時間に200回も自律的に権限を行使するような動作は、従来の監視ツールでは想定されていない」とバウム氏は語る。
セキュリティやコンプライアンスで何が起きるのか
AIエージェントに関連するインシデントは、既存のツールでは分類すら難しいとバウム氏は強調する。
ネットワーク層を監視する従来のツールでは、APIコールの内容は捉えられる。しかし、AIエージェントは複数のツールや内部データソースを複雑に使い分ける。バウム氏は「この複雑さを監視・観察できないことが、多くの企業が失敗する原因だ」と指摘する。
例えば、意図しない意思決定の実行がある。モデルドリフト（継続利用によるモデルの性能劣化や挙動の変化）により、以前は出さなかった結論を勝手に出してしまうケースだ。
こうした問題を検知するには、APIの呼び出しと応答だけでなく、モデルの更新履歴まで把握する必要がある。これはデバッグや原因究明が非常に困難な作業だ。また、AIエージェントが使用していたユーザー認証情報が別の理由で変更されていたことが原因で、ツールへのアクセス障害としてインシデントが発生することもある。
把握できていないエージェントの実態
バウム氏は、組織内で把握されていないAIエージェントを3つのカテゴリーに分類した。
1つ目は、従業員の個人的なプロジェクトだ。初期の導入者が構築した便利なツールが、その人物の異動や退職後も放置され、勝手に動作し続ける。
2つ目は、部門単位の導入だ。部門が独自に外部ツールと接続し、他部署が管理するシステムへもアクセスを広げていく。これが組織内の対立の火種になることも多い。
3つ目は、ベンダー提供のAIエージェントだ。SaaSに最初から組み込まれ、デフォルトで有効になっている場合が多い。内部データへのアクセス権を持ちながら、IT部門の目には触れにくい。
ガバナンスをいかに確立するか
最良の事例としてバウム氏は、金融サービスのBrexを挙げる。同社は自社のAIエージェントを監視するためのツールを自社開発し、オープンソースとして公開している。
一方で、最悪のシナリオは、取締役会から「我が社には幾つのAIエージェントがあるのか」と聞かれ、CIOが「分からない」と答える状況だ。多くの組織はまだ、AIエージェントを適切に監視・統治するための体制や文化が整っていない。
自律型エージェントの「監査」の定義
AIエージェントの監査には、まず正確な台帳が必要だ。その上で、リスクの高さと影響範囲で分類しなければならない。
「AIエージェントが便利であればあるほど、多くの権限を与えている。それは同時に、事故時の被害が大きくなることを意味する」とバウム氏は警告する。
監査には、リスク分類と被害予測の分析が含まれるべきだ。問題発生時の責任所在と対応プロトコルを明確にすることが、特に規制の厳しい業界では必要となる。
規制の現状とCIOが取るべき対策
欧州連合（EU）の「EU AI法」などの規制は、まだ多くの組織に実質的な影響を及ぼしていない。
実装期限が2027年末まで延びたこともあるが、そもそも同法はAIエージェントを想定して書かれていないからだ。具体的な基準の策定は、業界ごとの自主的な判断に委ねられている側面がある。
CIOが今後半年から1年で取り組むべき「クイックウィン」（短期間で獲得できる小さな成果）として、バウム氏は3つを挙げた。
第一に、従業員がAIエージェントを登録しやすい中央台帳を作ること。
第二に、各AIエージェントに責任者を割り当てること。特定の個人やチームが責任を持ち、そのコミュニティー内でリスクと機会の知識を共有する。
第三に、ポリシーをコードとして実装する「ポリシー・アズ・コード」の採用だ。プロセスの実行レベルとネットワーク層の両方で制御をかけ、暴走したAIエージェントを即座に停止できるようにする。
「市民開発者」をいかに導くか
AIエージェントの台頭により、自然言語でツールを自作する「市民開発者」が急増している。
バウム氏はこれを前向きに捉えているが、責任の所在があいまいになるリスクも指摘する。業務の知識はあっても、システムを管理する経験が市民開発者には不足しているからだ。
そのため、各部署にAIエージェントの知識を持つ技術者を配置する必要がある。ただし、IT部門が全てを管理しようとしてはいけない。
バウム氏は「IT部門が独占しようとすれば、価値創造の芽をつんでしまうだろう」と締めくくった。
Copyright © ITmedia, Inc. All Rights Reserved.