「自社にシャドーAIはない」は危険な思い込み？ 現場発AIが生む脅威の正体：ビジネス部門とIT部門のギャップに起因
AIエージェントによる“業務の代替”が現実味を帯びてきた今、ビジネス部門とIT部門の間に「シャドーAI」の新たなリスクが生じている。企業は今、そのリスクにどう向き合うべきか。
昨今、生成AIやAIエージェントに対する関心が高まっている。企業活動そのものにインパクトを与えるようなAIの進化に伴って、どのような課題が浮上しているのだろうか。ネットワークベンダーF5の年次イベント「AppWorld 2025」において、調査会社IDC Japanのグループディレクター、草野賢一氏が行った講演「シャドーAIの新たなリスクの管理：AI時代のセキュリティとネットワークを考える」から、そのヒントを探ってみよう。
利用拡大とともに広がる生成AIのリスク
草野氏は「生成AIからAIエージェント、エージェンティックAIへと広がりを見せており、2025年はまさにエージェンティックAIへと向かう時代の一つの転換点ではないかと捉えています」と述べる。
2018年頃から本格的に登場した生成AIは、われわれの日常業務や生活に大きなインパクトを与えた。その進化形であるエージェンティックAIは、企業活動そのものにより大きなインパクトを与える存在だという。「生成AIは、業務の生産性を上げるといった効果をもたらしました。これに対しAIエージェントは、業務の一部を代替し、さらにはホワイトカラーを代替する可能性ももたらすところが大きなポイントです」（草野氏）
このようにAIが急速に進化する中、IDCが世界中のCIO（最高情報責任者）を対象に実施したAIを軸にした調査からは、幾つか興味深いトレンドが見えてきた。その一つは、AIの世界におけるオープンソースの台頭だ。「既存の生成AIを購入し、ファインチューニングして使うとした回答者が最も多いのですが、少し成熟度の高い回答者では、オープンソースの生成AIモデルを利用するという回答が増えています」（草野氏）
これに伴い、生成AIの利用の阻害要因にも変化が見られている。かねて指摘されてきたハルシネーション（AIがもっともらしいが間違った回答を生成すること）や規制などのリスク、データおよび知的財産の漏えいといった懸念に加え、「コスト」に関する懸念が、特にLOB（Line of Business：事業部門）の間で高まっており、IT部門の考え方との間にギャップが生じつつあるという。
ビジネス部門とのギャップから高まる「シャドーAI」のリスク
こうしたギャップから懸念される将来的なリスクの一つが、「シャドーAI」だ。情報システム部門、あるいはCoE（Center of Excellence：特定の専門知識を基に業務推進をするチーム）のあずかり知らないところで、現場主導で導入される「シャドーIT」や「シャドークラウド」については、見聞きしたことのある人が多いのではないだろうか。これに対し、シャドーAIとなるとまだなじみがなく、調査においても約7割が「自社にはシャドーAIはない」と回答している。
だが前述の通り、LOBとIT部門との意識にはギャップがある。IDCの調査によると、AI利用のコストに関する懸念に加え、「IT部門の動きが遅過ぎる」「AIのインフラ整備だけでなく、すぐにAIのアプリケーションを開発できる環境やツールを準備してくれていない」といった不満の声が浮上しているのが実態だ。
「IT部門が、全体最適を考慮しながらどういった環境を作るかに注力している一方で、LOBはもっと早くAIの成果を得たい、それも経済的に実現したいと考えており、AIを巡る考え方にギャップが存在しています。これがシャドーAIを生み出す背景の一つにあるのではないでしょうか」。草野氏はそう指摘した。
また生成AIは、生産性にフォーカスした比較的軽めのユースケースから、製品開発など業務に特化した重めのユースケースに至るまで、さまざまな用途で活用されつつある。中でも、事業部として予算などを確保している重めのユースケースになればなるほど、LOB自身でAI活用を推進したいという考え方も強まり、それゆえにシャドーITのリスクが特に潜みやすいという。
こうした状況を踏まえて草野氏は「シャドーAIを作り出さないよう、全体最適の中でLOBが求めるAI環境を整えることがIT部門にとって重要ではないか」と指摘した。同時に、万一シャドーAIが生み出されたとしてもそれを見つけ、リスクをもたらしていないことを確認する仕組みを整えておくことも必要だとした。
WAAPとAIゲートウェイでAIを取り巻くリスクに対処を
シャドーAIに限らず、AI全般に視野を広げると、どのようなセキュリティリスクがあるだろうか。「生成AI固有の脅威だけと考えても、モデルに対する脅威が挙げられる他、学習データに対する脅威も重大なリスクをもたらします」と草野氏は説明した。
一方、活用例やユースケースも非常に幅広い。単に効率を高めるだけでなく、セキュリティ専門家の力を増幅させることも可能だ。草野氏は「セキュリティにおけるAIを考えるだけでも非常に幅が広く、リスクも広範にわたることに加えて、特有のセキュリティ脅威も存在します」と述べ、何らかの対策が求められるという考え方を示した。
具体的な解決策の一つになるのが、WebアプリケーションとAPI（アプリケーションプログラミングインタフェース）を保護する「WAAP」（Web Application and API Protection）だ。「AIのトラフィックがAPIの通信だとすると、それは当然、WAAPによって守ることができます」（草野氏）
AI特有のリスクやセキュリティ脅威に対しては、草野氏は徐々に市場でも注目が高まってきている「AIゲートウェイ」が有効だとした。「AIゲートウェイは、AIモデルへのアクセスを一元的に制御し、セキュアにするとともに、最適化していくことを目的に、ランタイムセキュリティ（実行中のセキュリティリスクを検知・防御する仕組み）とガバナンスを実現する機能です」（同氏）。これを活用することで、AIモデルにセキュアな環境を提供すると同時に、可観測性を高め、コストも含めて最適化し、最終的にはAIを安心して活用できる環境を整える役割を果たすだろうとした。
「WAAPとAIゲートウェイを組み合わせることによって、AI活用におけるリスクや脅威への対策はもちろん、AIにおけるオープンソースの活用やシャドーAI対策の第一歩としても非常に有効ではないかと考えます。適切なセキュリティを構築することで、さらなるAI活用を進めていけると考えています」（草野氏）
そして、そうした環境を実現する際には、WAAPとAIゲートウェイの統合はもちろん、既存のセキュリティソリューションとの統合も不可欠だとも指摘した。
クラウドネイティブからAIネイティブなインフラへの移行
草野氏は続けて、AI活用の全体最適を進めていくには、シャドーAI対策、そしてAI活用時のリスクへの対策に加え、インフラやネットワークの変革も欠かせないと指摘した。
「クラウドネイティブなインフラから、AIネイティブなインフラへの移行が必要です。エージェンティックAIを活用し、ビジネスにより大きなインパクトをより素早く与え、アウトカムを最大化することを目的としたインフラを作っていく必要があると考えます」（草野氏）
そうした“AIネイティブインフラ”に不可欠な要素は5つあるという。1つ目は、目的に最適化することだ。そして、目的への最適化を進めようとすると、自然と「エッジの拡張・強化」という2つ目の要素が求められるという。「これまでは学習に重きが置かれていましたが、今後は推論のためのワークロードが爆発的に増えていくでしょう。そうした状況を見据え、クラウドだけでなくオンプレミスやエッジの強化も重要になるのではないでしょうか」（草野氏）。3つ目の要素は、データやワークロードを中心とした「ハイブリッドクラウド」。4つ目の要素は、in-the-loopというよりもon-the-loop、つまり人の存在を上に置いてポリシー駆動で進める「自動化」だ。最後の要素として同氏は「ゼロトラスト」を挙げた。
今後、AIのユースケースは、単なる生産性向上から、各事業部門の領域や産業特化型へと進化していくとみられる。それを見据えるとAI活用の基盤も、現状のSaaS（Software as a Service）、PaaS（Platform as a Service）を主としたものから、エッジを活用してモデルの最適化やRAG（検索拡張生成）活用を進めていく方向に向かうのではないかと草野氏はみる。
また同時に、データの保存場所、管理する場所も変化していくと同氏は予測する。「データ主権」の動向も踏まえながら機密データの扱いを考慮する必要があるし、一方で現場主導型のユースケースでは、現場で生まれたデータをそのまま使いたい、というニーズも高まってくるからだ。
「こうしたポイントを踏まえながら、いかにハイブリッドな環境を構築し、その中でうまく分散処理を実現していくかが鍵を握っていくでしょう」と草野氏は述べた。
接続性のカギは“自動化”と“ガバナンス”
分散環境では必然的に、それらを「つなぐ」コネクティビティーの重要性が高まってくる。AIエージェントがそれぞれオーケストレーションしながらシームレスにつながっていくために、あらためて接続性が重視され、ワークロードのモビリティーをいかに実現するかが問われると草野氏は予測する。
ただ、だからといって野放図につなげていくわけにはいかない。あくまでガバナンスを効かせつつもシームレスな接続を自動化していくことが求められる。そこでは、コントロールプレーンを抽象化し、接続性の部分では動的なリソース変化に対応した帯域保証や経路制御によって推論に最適化させるといった、より高度な要素が求められると草野氏は説明した。
そして、こうしたAIネイティブなインフラに加え、日本の場合は特に欠かせないもう一つ重要な要素がある。それは「人材」だ。だがAI以前に、一般的なITインフラ運用においても「人材不足」は共通の課題だ。
そこで、AIを活用していかに人材不足を補うかが問われていくと草野氏は指摘する。「外部委託やエンジニアの教育ももちろん重要ですが、人材がより不足してくる時代におけるインフラに不可欠なこととして、AIやツールを活用した自動化への取り組みがあると見ています」と草野氏は述べ、AIネイティブな時代だからこそ、インフラにも自律化と自動化が不可欠だとした。
Copyright © ITmedia, Inc. All Rights Reserved.