Roval CEOが示すCIO向け3つの対策
「社内にAIエージェントは何個ある？」に答えられないリスク “見えない資産”を掌握するシャドーAI時代の防衛策
従来のIT資産管理ツールでは追跡できないAIエージェントは増加傾向だ。IPアドレスを持たず、既存の監視の目をかいくぐる“見えない資産”にどう立ち向かうべきか、AIガバナンスプラットフォームのCEOに話を聞いた。
AIエージェントは、多くのCIO（最高情報責任者）が把握できる速度を上回って組織内に浸透している。
従業員が個人的に構築したものや、各部門が外部ツールに接続したものなど、その形態は多岐にわたる。SaaSベンダーが自社ソフトウェアに直接AIエージェント機能を組み込むケースも増えている。
こうしたシステムが機密データにアクセスしているにもかかわらず、多くの組織では台帳管理やガバナンスが不十分だ。CIOは、これらの動作を理解し、問題発生時に監査する方法を確立するという圧力にさらされている。
TechTargetは、AIガバナンスプラットフォームを提供するRovalの創設者兼CEOであるデービッド・バウム氏に取材した。同氏は、多くの企業が環境内で動作するAIエージェントを十分に把握・分類できていないと指摘する。既存のIT監視ツールでは追跡が難しく、台帳管理や監査に新たな手法が必要だという。
CIOがAIエージェントのガバナンスを維持するためのサマリ
- 所有者、権限、システムへのアクセス権を含めた、AIエージェントの中央台帳を構築する
- リスクレベルと、問題発生時の影響範囲の両面でエージェントを分類する
- 従業員向けの規定だけでなく、プロセスやネットワーク層で「ポリシー・アズ・コード」を適用する
- 組織全体の全てのエージェント、またはそのグループで明確な説明責任を割り当てる
- 各部門での試行を支援しつつ、現場に技術的な監視体制とガバナンスの専門知識を組み込む
AIエージェントの可視化が困難な理由
なぜ今、企業にとってAIエージェントの可視化がこれほど難しいのか。バウム氏によれば、理由は3つある。
第一に、AIエージェントは従来のシステムとは性質が異なる。AIエージェントは物理的なサーバではなく、IPアドレスも持たない。インフラの構成管理データベース（CMDB）には現れない足跡を残す。
第二に、AIエージェントは単一のアプリケーションではない。1つのSaaS内に複数のAI機能が含まれ、それぞれが独立したアクセスパターンを持つ。
第三に、AIエージェントはユーザーではない。ユーザーの代理として振る舞い、認証情報も使うが、既存のアイデンティティー管理（IAM）では異常な動作として検知しにくい。
「1時間に200回も自律的に権限を行使するような動作は、従来の監視ツールでは想定されていない」とバウム氏は語る。
セキュリティやコンプライアンスで何が起きるのか
AIエージェントに関連するインシデントは、既存のツールでは分類すら難しいとバウム氏は強調する。
ネットワーク層を監視する従来のツールでは、APIコールの内容は捉えられる。しかし、AIエージェントは複数のツールや内部データソースを複雑に使い分ける。バウム氏は「この複雑さを監視・観察できないことが、多くの企業が失敗する原因だ」と指摘する。
例えば、意図しない意思決定の実行がある。モデルドリフト（継続利用によるモデルの性能劣化や挙動の変化）により、以前は出さなかった結論を勝手に出してしまうケースだ。
こうした問題を検知するには、APIの呼び出しと応答だけでなく、モデルの更新履歴まで把握する必要がある。これはデバッグや原因究明が非常に困難な作業だ。また、AIエージェントが使用していたユーザー認証情報が別の理由で変更されていたことが原因で、ツールへのアクセス障害としてインシデントが発生することもある。
把握できていないエージェントの実態
バウム氏は、組織内で把握されていないAIエージェントを3つのカテゴリーに分類した。
1つ目は、従業員の個人的なプロジェクトだ。初期の導入者が構築した便利なツールが、その人物の異動や退職後も放置され、勝手に動作し続ける。
2つ目は、部門単位の導入だ。部門が独自に外部ツールと接続し、他部署が管理するシステムへもアクセスを広げていく。これが組織内の対立の火種になることも多い。
3つ目は、ベンダー提供のAIエージェントだ。SaaSに最初から組み込まれ、デフォルトで有効になっている場合が多い。内部データへのアクセス権を持ちながら、IT部門の目には触れにくい。
ガバナンスをいかに確立するか
最良の事例としてバウム氏は、金融サービスのBrexを挙げる。同社は自社のAIエージェントを監視するためのツールを自社開発し、オープンソースとして公開している。
一方で、最悪のシナリオは、取締役会から「我が社には幾つのAIエージェントがあるのか」と聞かれ、CIOが「分からない」と答える状況だ。多くの組織はまだ、AIエージェントを適切に監視・統治するための体制や文化が整っていない。
自律型エージェントの「監査」の定義
AIエージェントの監査には、まず正確な台帳が必要だ。その上で、リスクの高さと影響範囲で分類しなければならない。
「AIエージェントが便利であればあるほど、多くの権限を与えている。それは同時に、事故時の被害が大きくなることを意味する」とバウム氏は警告する。
監査には、リスク分類と被害予測の分析が含まれるべきだ。問題発生時の責任所在と対応プロトコルを明確にすることが、特に規制の厳しい業界では必要となる。
規制の現状とCIOが取るべき対策
欧州連合（EU）の「EU AI法」などの規制は、まだ多くの組織に実質的な影響を及ぼしていない。
実装期限が2027年末まで延びたこともあるが、そもそも同法はAIエージェントを想定して書かれていないからだ。具体的な基準の策定は、業界ごとの自主的な判断に委ねられている側面がある。
CIOが今後半年から1年で取り組むべき「クイックウィン」（短期間で獲得できる小さな成果）として、バウム氏は3つを挙げた。
第一に、従業員がAIエージェントを登録しやすい中央台帳を作ること。
第二に、各AIエージェントに責任者を割り当てること。特定の個人やチームが責任を持ち、そのコミュニティー内でリスクと機会の知識を共有する。
第三に、ポリシーをコードとして実装する「ポリシー・アズ・コード」の採用だ。プロセスの実行レベルとネットワーク層の両方で制御をかけ、暴走したAIエージェントを即座に停止できるようにする。
「市民開発者」をいかに導くか
AIエージェントの台頭により、自然言語でツールを自作する「市民開発者」が急増している。
バウム氏はこれを前向きに捉えているが、責任の所在があいまいになるリスクも指摘する。業務の知識はあっても、システムを管理する経験が市民開発者には不足しているからだ。
そのため、各部署にAIエージェントの知識を持つ技術者を配置する必要がある。ただし、IT部門が全てを管理しようとしてはいけない。
バウム氏は「IT部門が独占しようとすれば、価値創造の芽をつんでしまうだろう」と締めくくった。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
市場調査・トレンド
[アイティメディア株式会社] AI Overviews時代のB2Bマーケ！ 成長企業が選ぶ戦略とは？ -
市場調査・トレンド
[アイティメディア株式会社] なぜあの施策は失敗したのか？ B2Bマーケ施策を成功させる3つの鉄則 -
市場調査・トレンド
[株式会社Zendesk] 調査で判明：AIを活用したCX変革、成功に向けて押さえておきたい5つのトレンド -
製品資料
[三菱ＨＣキャピタルＩＴパートナーズ株式会社] ランサムウェア対策の第一歩、業務PC上で“感染させない”仕組みの作り方 -
製品資料
[株式会社シーイーシー] 失敗しない「脱VMware」の進め方、検討のステップと2つのユースケースを解説
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
2
「アップグレードできないJava」をどう守る IBMとRed HatがAIで400件超修正
-
3
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
4
OpenAIやAnthropicでさえ制御不能 2026年夏「3大サイバー攻撃」の衝撃
-
5
米国防総省で300万人分の個人情報が流出 その「意外な原因」と教訓
-
6
「GitLab」に最高深刻度の脆弱性 2014年以降の全版に影響を及ぼす恐れ
-
7
「Copilot」がIT予算を食いつぶす？ 高額請求を招く課金体系と節約術
-
8
金融・通信で情報漏えいが続出 IPAとJPCERT/CCが情シスに求める緊急点検
-
9
【基本情報技術者試験】ファイルの場所を示す「絶対パス」と「相対パス」の違い
-
10
PHPはそもそも必要か？ 脆弱性で問われる自社サイト安全性と保守負担のバランス
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
「IT史に名を残すシステム障害」8選
-
3
10G回線の真価をフルに享受するには？ 導入前にチェックしたいポイント
-
4
SCS評価制度時代の「SASE選定」ガイド
-
5
顧客対応自動化の要点：RAGとデータ連携で“業務で使える生成AI”にする方法
-
6
マンガで解説：情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
7
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
8
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
9
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
10
「EDR」選定ガイド：比較・検討フェーズで整理すべきポイントを解説
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー