Roval CEOが示すCIO向け3つの対策
「社内にAIエージェントは何個ある?」に答えられないリスク “見えない資産”を掌握するシャドーAI時代の防衛策
従来のIT資産管理ツールでは追跡できないAIエージェントは増加傾向だ。IPアドレスを持たず、既存の監視の目をかいくぐる“見えない資産”にどう立ち向かうべきか、AIガバナンスプラットフォームのCEOに話を聞いた。
AIエージェントは、多くのCIO(最高情報責任者)が把握できる速度を上回って組織内に浸透している。
従業員が個人的に構築したものや、各部門が外部ツールに接続したものなど、その形態は多岐にわたる。SaaSベンダーが自社ソフトウェアに直接AIエージェント機能を組み込むケースも増えている。
こうしたシステムが機密データにアクセスしているにもかかわらず、多くの組織では台帳管理やガバナンスが不十分だ。CIOは、これらの動作を理解し、問題発生時に監査する方法を確立するという圧力にさらされている。
TechTargetは、AIガバナンスプラットフォームを提供するRovalの創設者兼CEOであるデービッド・バウム氏に取材した。同氏は、多くの企業が環境内で動作するAIエージェントを十分に把握・分類できていないと指摘する。既存のIT監視ツールでは追跡が難しく、台帳管理や監査に新たな手法が必要だという。
CIOがAIエージェントのガバナンスを維持するためのサマリ
- 所有者、権限、システムへのアクセス権を含めた、AIエージェントの中央台帳を構築する
- リスクレベルと、問題発生時の影響範囲の両面でエージェントを分類する
- 従業員向けの規定だけでなく、プロセスやネットワーク層で「ポリシー・アズ・コード」を適用する
- 組織全体の全てのエージェント、またはそのグループで明確な説明責任を割り当てる
- 各部門での試行を支援しつつ、現場に技術的な監視体制とガバナンスの専門知識を組み込む
AIエージェントの可視化が困難な理由
なぜ今、企業にとってAIエージェントの可視化がこれほど難しいのか。バウム氏によれば、理由は3つある。
第一に、AIエージェントは従来のシステムとは性質が異なる。AIエージェントは物理的なサーバではなく、IPアドレスも持たない。インフラの構成管理データベース(CMDB)には現れない足跡を残す。
第二に、AIエージェントは単一のアプリケーションではない。1つのSaaS内に複数のAI機能が含まれ、それぞれが独立したアクセスパターンを持つ。
第三に、AIエージェントはユーザーではない。ユーザーの代理として振る舞い、認証情報も使うが、既存のアイデンティティー管理(IAM)では異常な動作として検知しにくい。
「1時間に200回も自律的に権限を行使するような動作は、従来の監視ツールでは想定されていない」とバウム氏は語る。
セキュリティやコンプライアンスで何が起きるのか
AIエージェントに関連するインシデントは、既存のツールでは分類すら難しいとバウム氏は強調する。
ネットワーク層を監視する従来のツールでは、APIコールの内容は捉えられる。しかし、AIエージェントは複数のツールや内部データソースを複雑に使い分ける。バウム氏は「この複雑さを監視・観察できないことが、多くの企業が失敗する原因だ」と指摘する。
例えば、意図しない意思決定の実行がある。モデルドリフト(継続利用によるモデルの性能劣化や挙動の変化)により、以前は出さなかった結論を勝手に出してしまうケースだ。
こうした問題を検知するには、APIの呼び出しと応答だけでなく、モデルの更新履歴まで把握する必要がある。これはデバッグや原因究明が非常に困難な作業だ。また、AIエージェントが使用していたユーザー認証情報が別の理由で変更されていたことが原因で、ツールへのアクセス障害としてインシデントが発生することもある。
把握できていないエージェントの実態
バウム氏は、組織内で把握されていないAIエージェントを3つのカテゴリーに分類した。
1つ目は、従業員の個人的なプロジェクトだ。初期の導入者が構築した便利なツールが、その人物の異動や退職後も放置され、勝手に動作し続ける。
2つ目は、部門単位の導入だ。部門が独自に外部ツールと接続し、他部署が管理するシステムへもアクセスを広げていく。これが組織内の対立の火種になることも多い。
3つ目は、ベンダー提供のAIエージェントだ。SaaSに最初から組み込まれ、デフォルトで有効になっている場合が多い。内部データへのアクセス権を持ちながら、IT部門の目には触れにくい。
ガバナンスをいかに確立するか
最良の事例としてバウム氏は、金融サービスのBrexを挙げる。同社は自社のAIエージェントを監視するためのツールを自社開発し、オープンソースとして公開している。
一方で、最悪のシナリオは、取締役会から「我が社には幾つのAIエージェントがあるのか」と聞かれ、CIOが「分からない」と答える状況だ。多くの組織はまだ、AIエージェントを適切に監視・統治するための体制や文化が整っていない。
自律型エージェントの「監査」の定義
AIエージェントの監査には、まず正確な台帳が必要だ。その上で、リスクの高さと影響範囲で分類しなければならない。
「AIエージェントが便利であればあるほど、多くの権限を与えている。それは同時に、事故時の被害が大きくなることを意味する」とバウム氏は警告する。
監査には、リスク分類と被害予測の分析が含まれるべきだ。問題発生時の責任所在と対応プロトコルを明確にすることが、特に規制の厳しい業界では必要となる。
規制の現状とCIOが取るべき対策
欧州連合(EU)の「EU AI法」などの規制は、まだ多くの組織に実質的な影響を及ぼしていない。
実装期限が2027年末まで延びたこともあるが、そもそも同法はAIエージェントを想定して書かれていないからだ。具体的な基準の策定は、業界ごとの自主的な判断に委ねられている側面がある。
CIOが今後半年から1年で取り組むべき「クイックウィン」(短期間で獲得できる小さな成果)として、バウム氏は3つを挙げた。
第一に、従業員がAIエージェントを登録しやすい中央台帳を作ること。
第二に、各AIエージェントに責任者を割り当てること。特定の個人やチームが責任を持ち、そのコミュニティー内でリスクと機会の知識を共有する。
第三に、ポリシーをコードとして実装する「ポリシー・アズ・コード」の採用だ。プロセスの実行レベルとネットワーク層の両方で制御をかけ、暴走したAIエージェントを即座に停止できるようにする。
「市民開発者」をいかに導くか
AIエージェントの台頭により、自然言語でツールを自作する「市民開発者」が急増している。
バウム氏はこれを前向きに捉えているが、責任の所在があいまいになるリスクも指摘する。業務の知識はあっても、システムを管理する経験が市民開発者には不足しているからだ。
そのため、各部署にAIエージェントの知識を持つ技術者を配置する必要がある。ただし、IT部門が全てを管理しようとしてはいけない。
バウム氏は「IT部門が独占しようとすれば、価値創造の芽をつんでしまうだろう」と締めくくった。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社キーエンス] RPAは「どれも同じ」ではない 過去に導入を諦めた企業が“失敗した理由”とは -
製品資料
[株式会社キーエンス] 疲れ知らずの単純作業ロボをサクッと作成、“自分一人”でデスクワークを効率化 -
製品資料
[ニュータニックス・ジャパン合同会社] クラウドネイティブ戦略ガイド:Kubernetesクラスタ運用を最適化する方法を解説 -
事例
[Neatframe株式会社] オフィス移転を好機に Sansanに学ぶ「会議環境」変革の秘訣 -
製品資料
[NECパーソナルコンピュータ株式会社] 「PCが動きません」で情シスが負担する“隠れコスト”はどれほどか?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
-
2
「Copilot」がIT予算を食いつぶす? 高額請求を招く課金体系と節約術
-
3
企業が「Microsoft Azure」を選ばざるを得ない理由
-
4
「Windows 11移行・PC更新」に関するアンケート
-
5
Claudeを使い続けて大丈夫か? IPOで見えるAnthropicの財務と新機能
-
6
「Azure OpenAIなど生成AI」に関するアンケート
-
7
「有線LAN環境」に関するアンケート
-
8
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
9
AI時代のPC選定は“適材適所” 情シスが押さえておきたい3つの選択肢とは?
-
10
パスワードはなぜ死んだか 情シスが今すぐ始めるパスキー移行の現実解
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
4
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
5
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー