米国で開催されたクラウドネイティブ技術のカンファレンス「KubeCon + CloudNativeCon North America 2025」において、セッション「Taming the AI Hydra: Real-World Lessons in Governing AI Across the Enterprise」では、第一線で活躍する専門家が、AIガバナンスの最前線について語った。登壇したのは、セキュリティベンダーSonatypeのブライアン・フォックス氏、Dell Technologiesのサラ・エバンス氏、OSS（オープンソースソフトウェア）の業界団体OpenSSF（Open Source Security Foundation）のクリストファー・ロビンソン氏だ。

　本セッションで強調されたのは、昨今のAI技術を取り巻く状況が、かつてのソフトウェア開発における依存関係の乱用と酷似している点だ。開発者が内容を十分に理解せずに外部のライブラリを取り込んでいた時代と同様に、AIモデルや外部のAIツールが無自覚に組み込まれている。

　特に警戒すべきなのが、大規模言語モデル（LLM）が持つ学習データの古さに起因するリスクだ。LLMは過去のインターネット上のデータを基に学習しているため、最新のセキュリティパッチが適用されたソフトウェアのバージョンを把握していないことが指摘されている。その結果、AIモデルは開発者に対して古いバージョンのソフトウェアや、実際には存在しない架空のパッケージを推奨してしまうことがある。

　攻撃者はこの仕組みを悪用し、AIモデルがハルシネーション（もっともらしいうそ）として提示しがちな架空のパッケージ名と同じ名称のマルウェアを公開リポジトリに配置する。開発者がAIモデルの提案をうのみにしてそのパッケージをダウンロードすれば、企業システムにマルウェアが侵入してしまう。

MCPの普及と機密データ流出の危険性

　新たな脅威として専門家が警鐘を鳴らすのが、LLMに外部ツールとの連携機能を持たせるMCP（Model Context Protocol）の無秩序な利用だ。MCPを利用することで、AIエージェントはより高度なタスクを自動で処理できるようになる反面、インターネット上には出どころ不明のMCPサーバが多数共有されるようになっている。

　これらのサーバを適切に検証せずにAIエージェントへ接続した場合、AIエージェントがデータを処理する過程で社内の機密情報が外部の悪意あるサーバに送信されてしまう恐れがある。これは、従来のソフトウェア開発においてランダムに複数の依存関係を取り込むよりも、さらに致命的な情報漏えいにつながる危険性をはらむものだ。

多様な専門家の結集による対抗策

　これらの課題に対処するための具体的な手段として、エバンス氏は「AIガバナンスのヒドラには、別のヒドラをデプロイして立ち向かう」というアプローチを提唱する。

　従来のソフトウェア開発では、開発が完了した段階でGRC（ガバナンス、リスク、コンプライアンス）担当チームがチェックする手法が主流だった。しかし、エンドツーエンドのAIアプリケーション開発においては、データサイエンティスト、AIエンジニア、GRC担当者、サイト信頼性エンジニア（SRE）など、これまで接点のなかった多様な専門家が開発の初期段階から協力する体制が不可欠になる。

　この部門横断的な協業を促進する枠組みとして、DevSecOpsの概念を機械学習モデルに拡張した「MLSecOps」の導入が有効となる。各部門が独自の視点を持ち寄り、共通の言語でセキュリティリスクについて議論することで、AIシステムの全容を把握し、潜在的な問題を初期段階で排除することが可能となる。具体的な取り組みとして、OpenSSFでは「MITRE ATT&CK」フレームワークをMCPのツール呼び出しにマッピングし、GRCチームが既存の管理手法をAIに適用しやすくするプロジェクトも進行中だ。

　欧州のサイバーレジリエンス法（CRA）のような厳格な規制の施行が迫る中、企業はOSSを含めたAIシステム全体の透明性を確保し、インシデント発生時に速やかに対処できる体制を構築しなければならない。AI技術は企業の成長に不可欠な強力な推進力となる一方で、その運用体制に不備があれば致命的な経営リスクになる。目先の開発効率にとらわれることなく、現場の開発者とセキュリティ部門が一体となって強固なガバナンス体制を築くことが、これからのデジタル競争を勝ち抜くための鍵となる。

本稿は、CNCFが2025年11月25日に公開した動画「Taming the AI Hydra: Real-World Lessons in Governin... Brian Fox, Sarah Evans & Christopher Robinson」を基に作成しました。