情シスが見落とすサードパーティーリスク
導入SaaSに潜む「勝手なAI追加」 ツールに潜むAIを暴く「6つの問い」
導入済みツールにいつの間にかAIが追加される「AIクリープ」が深刻化している。医薬品審査に学ぶ継続監視モデルと、ベンダーに突きつけるべき6つの必須質問を提示する。
ベンダー各社が自社製品へのエージェント機能の追加を急速に進める中、第三者保証の手法は、定期的な評価から継続的な監視へと進化させる必要がある。
サードパーティーベンダーが、顧客の十分な理解を得ないまま製品にAI機能を追加する「AIクリープ」が問題視されている。この現象は、Gartnerが開催した2026年のカンファレンス「Enterprise Risk, Audit ＆ Compliance Conference」で主要な論点となった。複数のセッションで、そうした変更がAIのリスクサーフェス（リスクの露出面）をどのように拡大させているかについて、IT部門やリスク管理チームの理解を促す議論が展開された。
Gartnerでシニアディレクターアナリストを務めるデバンシュ・メロトラ氏は、自律型エージェントについてのセッションで、従来のサードパーティー保証は3つの前提に基づいていると指摘した。
- ベンダーが提供する機能の変化は緩やかである
- 重大な変更は契約上の開示によって通知される
- ベンダーの自己証明は製品の実態を正確に反映している
しかし、エージェント型AIの登場は、これら3つの前提をことごとく覆す。メロトラ氏は米TechTargetの取材に、「ベンダー自身が追い付けないほどの速度で機能が進化する場合がある」と語った。
そのためCIOやリスク管理チームは、サードパーティーリスクを特定時点の評価ではなく、継続的なプロセスとして捉え直す必要がある。単発の評価にとどまらず、ベンダーが追加したAI機能やその機能の実行権限、企業のリスクに及ぼす影響について、常に可視性を維持しなければならない。
本記事では、厳格に規制された業界に学ぶ継続監視モデルと、ベンダーに突きつけるべき6つの必須質問を提示する。
規制の厳しい業界から手法を学ぶ
エージェント型AIのガバナンスは比較的新しい分野で、ベストプラクティスは確立の途上にある。ただし、サードパーティー製ソフトウェアに追加されるAI機能のリスク管理で、CIOがゼロから車輪を再発明する必要はない。
メロトラ氏は自律型エージェントのセッションで、製薬を始めとする厳格に規制された業界の手法に目を向けるよう助言した。そうした業界のガバナンス手法はAIにも応用できるという。
医薬品は一度承認されたら放置されるわけではないと同氏は話す。効果や副作用が継続的に監視され、新たな情報が評価され、重大な変更が厳格に精査される。
同じアプローチは、ソフトウェアに追加されるAI機能にも適用できる。従来のサードパーティー保証プロセスは、SOCレポートやセキュリティチェックシート、契約書、ベンダーの自己証明に頼ることが多い。これらは有用な情報をもたらすが、アセスメント完了後にベンダーが新たなAI機能を追加すれば、情報はすぐに陳腐化してしまう。
企業は特定時点の保証だけに頼るべきではない。ベンダーのシステム内で何が起きているかを示す運用上の証拠を、より多く求める必要があるとメロトラ氏は指摘する。同氏はベンダーに、AI機能の重大な変更を開示する明確な要件を設けることも推奨した。
メロトラ氏はインタビューで、「契約上何が許可され、何が許可されないのかを明確に一覧化するべきだ。小さな変更の積み重ねが重大な変更につながることもあるため、重大な変更の定義も定めておく必要がある」と述べている。
ベンダーに投げかけるべき質問
Gartnerのバイスプレジデントアナリストであるシェル・カールソン氏は、米TechTargetのインタビューで、CIOはまずサードパーティー製品内のAI機能で何ができるのか、基本的な質問を投げかけることから始めるべきだと語った。確認すべき項目は以下の通りだ。
- 自社のデータはどこへ送信されるのか
- 誰が関与し、誰が責任を負うのか
- AIは何にアクセスでき、何を実行できるのか
- その機能にはどのような価値があるのか
- ベンダーは重大な変更をいつ顧客へ通知するのか
- AIの信頼性と統制が維持されていることを、企業側はどう把握できるのか
ベンダーが新しいAI機能を追加するにつれて、これらの質問は重要になる。AIクリープには、チャットボットやエージェント構築ツールのような目に見える機能だけでなく、AIを活用した検索や異常検知といった目に見えにくい変更も含まれるとカールソン氏は話す。
そうした機能に伴うリスクは、AIがアプリケーション内で何を実行できるかによって異なるとメロトラ氏は説明する。例えば、ユーザーのアクセス権限を付与する自律型エージェントは、本来アクセス権を持つべきではないユーザーに機密情報へのアクセスを許可してしまう恐れがある。
対照的に、毎朝メールを要約するだけのエージェントであれば、リスクはるかに小さいと同氏は言う。だからこそ企業は、アプリケーション自体のリスクだけでなく、そこで動作するAIエージェントの能力まで評価する必要がある。
調査会社Info-Tech Research Groupのアドバイザリーフェローであるバレンス・ハウデン氏は、企業のソフトウェア環境全体でAIエージェントが何を実行できるかを把握し続けるのは難しいと話す。企業は利用しているAIツールやエージェント、各システムが担う処理、責任の所在を追跡する台帳を整備・維持すべきだとハウデン氏は述べている。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[アルプス システム インテグレーション株式会社] 中小企業でも安心して活用できる「手ごろなSOCサービス」とは？ -
製品資料
[株式会社シーイーシー] 脱VMwareに成功した企業は何をどう実践した？ 事例に学ぶ戦略立案＆実装のコツ -
製品資料
[株式会社オービックビジネスコンサルタント] ランサムウェア攻撃を“二重の防御構造”で防ぐ、クラウド型基幹システムの実力 -
製品資料
[株式会社オービックビジネスコンサルタント] 動画で知るランサムウェア被害企業のリアル、会計データが無事だった理由とは -
市場調査・トレンド
[セコムトラストシステムズ株式会社] EDR導入を成功に導くロードマップ：選定／稟議／運用のつまずきを防ぐコツ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
2
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
3
LINEヤフーはなぜ「社内の管理者」すら信用しないインフラを作ったのか
-
4
鹿島建設のDXを阻む「10年前のAWS」 安全性と自由度を両立したモダナイズ
-
5
「データストレージの活用方法」に関するアンケート
-
6
「Excel管理」では限界――製造現場の改善が進まない“隠れた原因”
-
7
慶應義塾が「Notion」を選んだ理由 AI導入の盲点になる“情報のサイロ化”
-
8
生データを隠してデータ連携 KDDIが4000万人の顧客情報を安全に分析できた理由
-
9
日本HP×大塚商会が明かす「AI時代のPC選定の落とし穴」とは
-
10
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
3
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
4
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
5
システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
-
6
生成AIを開発に導入しても効果が見えない？ 実証実験で分かった成果と課題
-
7
経産省DX指針から読み解く、受発注業務デジタル化ロードマップ
-
8
“あのファイル転送”で暗躍するノーウェアランサム
-
9
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
10
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー