編集部のお薦め記事

「勝手に作られると困る」　それでも情シスが市民開発者を受け入れるべき理由

生成AIで広がる「AI孤立」――個人だけが効率化、チームは置き去りの現実

　次なる企業向けAIの課題は、アクセス制御ではなく「可視性」にある。

　ソフトウェアや業務フローにAIが組み込まれていると認識するだけでは、ITリーダーが求める制御は実現できない。AIへのアクセスとその恩恵は、既に広く浸透しているからだ。可視化はその第一歩にすぎない。企業はAIがどこに組み込まれ、どう使われ、どのような業務を補完しているかを知る必要がある。

　さらに困難なのは、その後の対応だ。

　ITリーダーは、AIエージェントや生成AIの機能が稼働した際、それらが実際に何を行うかを細かく制御したいと考えている。これは単に「AI搭載ツールのリスト」が欲しいわけではない。AIの挙動を観察し、テストし、統制し、制限する手段を求めているのだ。これにより、企業向けAIの課題はツールのアクセス問題から、継続的な管理の問題へと移行している。

可視性だけではITリーダーを満足させられない

　これは、多くの企業が1、2年前に想定していた課題とは大きく異なる。当時は、従業員が外部の目立つツールを使っているかどうかが焦点だった。現在は、承認済みの業務フローやサポート対象アプリケーション、日常の作業環境で、AIが既に何を行っているかというより難しい問いに答えなければならない。

　なぜなら、可視化と制御は別物だからだ。AIの存在に気付いても、そのAIがどう振る舞い、どのデータに触れているかは分からない。使用頻度や、会社が予期しない方法で従業員が依存しているかどうかも不明だ。AIがソフトウェアの一般的な挙動の一部となった今、可視化は単なる「アプリケーションの発見」よりも深い階層に及ぶ必要がある。

企業向けAIの可視性が損なわれている3つの兆候

　以下の3つの兆候は、単なるアクセス制限ではなく、可視性に問題があることを示している。

• 承認済みツールが、ポリシーの更新が追い付かない速さでAI機能を日常業務に持ち込んでいる
• ブラウザ、プロンプト、アプリケーションの監視が統合されず、バラバラに管理されている
• 組織が完全に把握していない方法でAI利用が広がる一方、従業員は承認済みソフトウェアの中にとどまっている

　この段階での可視性とは、単に「どのツールにAIがあるか」を知る以上の意味を持つ。AIがどこでアクティブか、どの業務に影響し、どのデータに到達できるかを把握することだ。そして、それらの機能が使われた際に、組織が実際にどの程度の制御権を持っているかを確認しなければならない。

AIの禁止はさらなる「シャドーAI」を生む可能性がある

　AIを完全に遮断することは、もはや容易ではない。たとえ可能だとしても、それが賢明かどうかは疑問だ。AIは特に定型的で反復的な業務で実質的な利益をもたらす。一般的なソフトウェアにAIが浸透しすぎているため、利用を厳格に制限することは、困難で報われない作業になりつつある。

　一方的なルールや制限で強く押し込めば、企業はさらなるリスクを背負う。ツールが便利である以上、従業員は制限を回避しようとするため、「シャドーAI」を増やす結果になりかねない。

　これは、もはや「許可か禁止か」という単純な選択ではない。企業には、データと挙動の制御を失うことなく、従業員にAIを使わせる方法が必要だ。しかし、価値の高いユースケースが、企業が最も露出を懸念する「内部知識」に依存している場合、この課題は極めて難しくなる。

　ここで、可視性の問題と有用性の問題が衝突する。価値あるAI活用の多くは、ガバナンスポリシーが外部流出を防ごうとする種類の企業データに依存している。外部のAIプラットフォームが機密データや組織の専門知識、規制対象の情報を露出させるリスクへの認識は高まった。その結果、企業はリスク低減のためにAIの用途を限定する傾向にある。

　しかし、だからといって従業員が制限の回避を諦めるわけではない。また、システムの断片化によって情報の露出を完全に防ぐことが容易になるわけでもない。むしろ、AIの可視性を巡るリスクは高まっている。AIの有用性と可視性の衝突こそが、現在の問題の中核である。これは、企業がAIの利用や効果、セキュリティを検討する際の主要な対立軸となっている。

ブラウザもAIの可視性についての課題の一部

　ブラウザの存在により、この緊張状態はさらに無視できなくなっている。

　ブラウザが登場した当初、企業はそれが生産性アプリケーションや業務フローの中心になると予見した。その構想が実用的になるまでには年月を要したが、現在はそれが現実となっている。OSの種類を問わず、企業内の従業員が同じ承認済みアプリケーションやサポート対象ブラウザを使うことは一般的だ。

　ブラウザは多くの人にとって主要なインタフェースであり、AI利用の主な場にもなっている。これにより、可視性の焦点は個別のアプリケーションから、業務やプロンプト、データが一日中交差するインタフェースへと移った。

　ブラウザは単なる新たな主戦場ではない。ブラウザのセキュリティ、プロンプトのセキュリティ、そして観測可能性が、同じガバナンスの問題の下で収束し始めている場所なのだ。

　監視の在り方も変わる。AIの可視化はアプリケーションそのものを超えて、実際に業務が遂行されるレイヤーへと広がっている。

AIの断片化が可視性の断片化を招く

　もう1つの大きな障壁は「断片化」だ。

　SaaSかオンプレミスかを問わず、あらゆるアプリケーションが独自のエージェントやAI機能を開発している。これがAIの断片化を招いている。

　主要ベンダーの現在の狙いは、ソフトウェアスタックの新たな管理レイヤーで足場を固めることだ。それにより、バラバラに動くエージェントをオーケストレーション（統合制御）しようとしている。しかし、AIの断片化は単なる管理の問題ではない。それは可視性の問題でもある。

　ある意味では、AIは全く隠れておらず、各プラットフォーム上で堂々と存在している。しかし、あまりにも多くのツールやタスク、目的に分散しているため、一貫した方法で監視し統制することが困難だ。部分的なデータ制御や監視から始めたとしても、すぐに中央集中型の管理が難しい状態に陥る。

　ベンダーの中には、各プラットフォームのエージェントが独自のデータやガバナンス、プライバシー規則を管理すべきだと主張する者もいる。単一システム内では有効かもしれないが、スタック全体の可視化は解決しない。

　だからこそ、オーケストレーションが魅力的に映るのだ。ただし、オーケストレーションが単なる調整を超えて、企業全体で動くプラットフォーム固有のAIシステム全てに意味のある可視性を提供できるかは未知数である。

普通のソフトウェアにAIが組み込まれた際の監査ポイント

　まずは基本から始めるべきだ。承認済みツールのうち、どれにAIが含まれているか。従業員は実際にそれらの機能をどう使っているか。従業員がAIに頼り始めたとき、それらのツールはどの情報にアクセスできるかを確認する。

　次に、見落としやすい領域へと進む。ブラウザでの露出、プロンプトの取り扱い、プラットフォームごとのガバナンス、導入後のエージェントの挙動、そしてシステム間で監視が薄くなっている箇所だ。重要なのはAIの有無を見つけることだけではない。AIが日常業務のどこまで浸透しているかをより正確に把握することだ。

最も有用なAIほど、安全な可視化が難しい

　企業向けAIの次なる課題は、AIが見つからないことではない。多くの場合、AIは承認済みソフトウェアやブラウザ、身近な業務フローのど真ん中に鎮座している。問題は、AIがさまざまな形態で環境全体に広がるにつれ、一貫した分離や解釈、統制が難しくなっていることだ。

　現時点で、可視性とは単にツールを知ることではない。AIがどこで活動し、どの業務に影響を与え、どのデータに触れ、組織がどれほど制御できているかを知ることである。

　従来の「禁止と制御」のモデルは、企業向けAIの現実に取り残されている。しかし、それに代わるモデルはまだ明確ではない。企業は依然として、データや挙動、リスクの制御を失わずにAIを活用させる方法を模索している。独自の機密情報が外部に漏れるのではなく、AIの利用状況が内部に向けて可視化される仕組みが必要だ。

　ここに緊張感がある。最も役立つAIは、企業が最も手元に置きたい知識に依存する可能性がある。AIが日常のソフトウェアの中に溶け込んでしまうと、単なる「助け」が「自動化」に変わり、その自動化がリスクを生み出していることに気付くのは極めて困難になる。