Roval CEOが示すCIO向け3つの対策
「社内にAIエージェントは何個ある？」に答えられないリスク “見えない資産”を掌握するシャドーAI時代の防衛策
従来のIT資産管理ツールでは追跡できないAIエージェントは増加傾向だ。IPアドレスを持たず、既存の監視の目をかいくぐる“見えない資産”にどう立ち向かうべきか、AIガバナンスプラットフォームのCEOに話を聞いた。
AIエージェントは、多くのCIO（最高情報責任者）が把握できる速度を上回って組織内に浸透している。
従業員が個人的に構築したものや、各部門が外部ツールに接続したものなど、その形態は多岐にわたる。SaaSベンダーが自社ソフトウェアに直接AIエージェント機能を組み込むケースも増えている。
こうしたシステムが機密データにアクセスしているにもかかわらず、多くの組織では台帳管理やガバナンスが不十分だ。CIOは、これらの動作を理解し、問題発生時に監査する方法を確立するという圧力にさらされている。
TechTargetは、AIガバナンスプラットフォームを提供するRovalの創設者兼CEOであるデービッド・バウム氏に取材した。同氏は、多くの企業が環境内で動作するAIエージェントを十分に把握・分類できていないと指摘する。既存のIT監視ツールでは追跡が難しく、台帳管理や監査に新たな手法が必要だという。
CIOがAIエージェントのガバナンスを維持するためのサマリ
- 所有者、権限、システムへのアクセス権を含めた、AIエージェントの中央台帳を構築する
- リスクレベルと、問題発生時の影響範囲の両面でエージェントを分類する
- 従業員向けの規定だけでなく、プロセスやネットワーク層で「ポリシー・アズ・コード」を適用する
- 組織全体の全てのエージェント、またはそのグループで明確な説明責任を割り当てる
- 各部門での試行を支援しつつ、現場に技術的な監視体制とガバナンスの専門知識を組み込む
AIエージェントの可視化が困難な理由
なぜ今、企業にとってAIエージェントの可視化がこれほど難しいのか。バウム氏によれば、理由は3つある。
第一に、AIエージェントは従来のシステムとは性質が異なる。AIエージェントは物理的なサーバではなく、IPアドレスも持たない。インフラの構成管理データベース（CMDB）には現れない足跡を残す。
第二に、AIエージェントは単一のアプリケーションではない。1つのSaaS内に複数のAI機能が含まれ、それぞれが独立したアクセスパターンを持つ。
第三に、AIエージェントはユーザーではない。ユーザーの代理として振る舞い、認証情報も使うが、既存のアイデンティティー管理（IAM）では異常な動作として検知しにくい。
「1時間に200回も自律的に権限を行使するような動作は、従来の監視ツールでは想定されていない」とバウム氏は語る。
セキュリティやコンプライアンスで何が起きるのか
AIエージェントに関連するインシデントは、既存のツールでは分類すら難しいとバウム氏は強調する。
ネットワーク層を監視する従来のツールでは、APIコールの内容は捉えられる。しかし、AIエージェントは複数のツールや内部データソースを複雑に使い分ける。バウム氏は「この複雑さを監視・観察できないことが、多くの企業が失敗する原因だ」と指摘する。
例えば、意図しない意思決定の実行がある。モデルドリフト（継続利用によるモデルの性能劣化や挙動の変化）により、以前は出さなかった結論を勝手に出してしまうケースだ。
こうした問題を検知するには、APIの呼び出しと応答だけでなく、モデルの更新履歴まで把握する必要がある。これはデバッグや原因究明が非常に困難な作業だ。また、AIエージェントが使用していたユーザー認証情報が別の理由で変更されていたことが原因で、ツールへのアクセス障害としてインシデントが発生することもある。
把握できていないエージェントの実態
バウム氏は、組織内で把握されていないAIエージェントを3つのカテゴリーに分類した。
1つ目は、従業員の個人的なプロジェクトだ。初期の導入者が構築した便利なツールが、その人物の異動や退職後も放置され、勝手に動作し続ける。
2つ目は、部門単位の導入だ。部門が独自に外部ツールと接続し、他部署が管理するシステムへもアクセスを広げていく。これが組織内の対立の火種になることも多い。
3つ目は、ベンダー提供のAIエージェントだ。SaaSに最初から組み込まれ、デフォルトで有効になっている場合が多い。内部データへのアクセス権を持ちながら、IT部門の目には触れにくい。
ガバナンスをいかに確立するか
最良の事例としてバウム氏は、金融サービスのBrexを挙げる。同社は自社のAIエージェントを監視するためのツールを自社開発し、オープンソースとして公開している。
一方で、最悪のシナリオは、取締役会から「我が社には幾つのAIエージェントがあるのか」と聞かれ、CIOが「分からない」と答える状況だ。多くの組織はまだ、AIエージェントを適切に監視・統治するための体制や文化が整っていない。
自律型エージェントの「監査」の定義
AIエージェントの監査には、まず正確な台帳が必要だ。その上で、リスクの高さと影響範囲で分類しなければならない。
「AIエージェントが便利であればあるほど、多くの権限を与えている。それは同時に、事故時の被害が大きくなることを意味する」とバウム氏は警告する。
監査には、リスク分類と被害予測の分析が含まれるべきだ。問題発生時の責任所在と対応プロトコルを明確にすることが、特に規制の厳しい業界では必要となる。
規制の現状とCIOが取るべき対策
欧州連合（EU）の「EU AI法」などの規制は、まだ多くの組織に実質的な影響を及ぼしていない。
実装期限が2027年末まで延びたこともあるが、そもそも同法はAIエージェントを想定して書かれていないからだ。具体的な基準の策定は、業界ごとの自主的な判断に委ねられている側面がある。
CIOが今後半年から1年で取り組むべき「クイックウィン」（短期間で獲得できる小さな成果）として、バウム氏は3つを挙げた。
第一に、従業員がAIエージェントを登録しやすい中央台帳を作ること。
第二に、各AIエージェントに責任者を割り当てること。特定の個人やチームが責任を持ち、そのコミュニティー内でリスクと機会の知識を共有する。
第三に、ポリシーをコードとして実装する「ポリシー・アズ・コード」の採用だ。プロセスの実行レベルとネットワーク層の両方で制御をかけ、暴走したAIエージェントを即座に停止できるようにする。
「市民開発者」をいかに導くか
AIエージェントの台頭により、自然言語でツールを自作する「市民開発者」が急増している。
バウム氏はこれを前向きに捉えているが、責任の所在があいまいになるリスクも指摘する。業務の知識はあっても、システムを管理する経験が市民開発者には不足しているからだ。
そのため、各部署にAIエージェントの知識を持つ技術者を配置する必要がある。ただし、IT部門が全てを管理しようとしてはいけない。
バウム氏は「IT部門が独占しようとすれば、価値創造の芽をつんでしまうだろう」と締めくくった。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品レビュー
[Dropbox Japan株式会社] ランサムウェア対策の重要ポイント バックアップがあっても安心できない理由 -
製品資料
[Dropbox Japan株式会社] 失敗しないDropbox導入 移行の進め方と事前設計の注意点 -
製品レビュー
[Dropbox Japan株式会社] 取引先から聞かれる前に知っておきたい、SCS評価制度とファイル共有管理の基本 -
製品資料
[TXOne Networks Japan合同会社] 沖電気工業に学ぶ、OT環境の「リスク可視化」から始めるセキュリティ対策 -
事例
[Neatframe株式会社] 船井総研HDのビデオ会議はここが違う 美観・品質・操作性を追求した環境構築術
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に？ ベテランエンジニアを追い込む“54歳の壁”
-
2
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
3
Microsoft 365導入後も稟議は「Excelをメールで回覧」 承認が止まる理由
-
4
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
5
OpenAIやAnthropicでさえ制御不能 2026年夏「3大サイバー攻撃」の衝撃
-
6
増えすぎたAIエージェントが野良化 幹部の36％がインシデント発生時に隠したいと回答
-
7
AIエージェントで「ERPの魔改造」復活の懸念 せっかくのクリーンコアが崩壊
-
8
その名は「Hajime」、IoTマルウェア「Mirai」と戦う“善玉ワーム”が出現
-
9
米国防総省で300万人分の個人情報が流出 その「意外な原因」と教訓
-
10
「アップグレードできないJava」をどう守る IBMとRed HatがAIで400件超修正
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
3
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
4
「IT史に名を残すシステム障害」8選
-
5
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
6
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
7
SASE選定は「見極め力」で大きな差――本当に必要な製品を選ぶための6つの視点
-
8
マンガで学ぶXDR／MDRのメリット、中小企業のセキュリティ強化になぜ有効か？
-
9
脱VMwareに成功した企業は何をどう実践した？ 事例に学ぶ戦略立案＆実装のコツ
-
10
自社データから高精度な回答を生成、簡単に生成AIチャットボットを構築する方法
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー