誰も把握できていないAIが招く脅威 制御不能なLLMを飼いならすには？：次々と湧き上がってくる脆弱性

企業でのAI利用が急速に進む中、開発現場ではAIが生成した脆弱なコードやデータ流出などの新たなセキュリティリスクが急増している。複雑化するAIガバナンスの課題と、その実践的な解決策を解説する。

[TechTargetジャパン]

　企業のシステム開発において、AI技術の活用は避けて通れない要素となっている。オープンソースのモデル共有サービスでは無数のAIモデルが公開されており、開発者はこれらを無秩序に自社のシステムへ組み込んでいる状況にある。

　この急速な普及は、開発速度を飛躍的に向上させる一方で、企業に深刻な「痛み」をもたらしつつある。非エンジニアがAIツールを利用してソースコードを生成するようになった結果、誰も内容を詳細に把握していない脆弱（ぜいじゃく）なプログラムが社内にまん延し始めているのだ。この状況は、ギリシャ神話に登場する、首を切り落としても次々と新たな首が生えてくる怪物「ヒドラ」に例えられる。1つのセキュリティ課題を解決したと思っても、新たな技術の導入により別のリスクが次々と頭をもたげる状態だ。

　企業はこの制御不能な「AIというヒドラ」をどのように飼いならせばよいのか。歴史を振り返りつつ、新たなセキュリティ脅威に対抗するための具体的な処方箋を探る。

AIによる「幻覚」が招くサプライチェーン攻撃

併せて読みたいお薦め記事

AIの脆弱性に対処する

• AI生成コードの約半分に脆弱性　自動化の暴走を食い止める「DevSecOps」実践術
• 開発加速の裏でOSSの脆弱性が2倍に　AIによる“見えない依存関係”の恐怖

　米国で開催されたクラウドネイティブ技術のカンファレンス「KubeCon + CloudNativeCon North America 2025」において、セッション「Taming the AI Hydra: Real-World Lessons in Governing AI Across the Enterprise」では、第一線で活躍する専門家が、AIガバナンスの最前線について語った。登壇したのは、セキュリティベンダーSonatypeのブライアン・フォックス氏、Dell Technologiesのサラ・エバンス氏、OSS（オープンソースソフトウェア）の業界団体OpenSSF（Open Source Security Foundation）のクリストファー・ロビンソン氏だ。

　本セッションで強調されたのは、昨今のAI技術を取り巻く状況が、かつてのソフトウェア開発における依存関係の乱用と酷似している点だ。開発者が内容を十分に理解せずに外部のライブラリを取り込んでいた時代と同様に、AIモデルや外部のAIツールが無自覚に組み込まれている。

　特に警戒すべきなのが、大規模言語モデル（LLM）が持つ学習データの古さに起因するリスクだ。LLMは過去のインターネット上のデータを基に学習しているため、最新のセキュリティパッチが適用されたソフトウェアのバージョンを把握していないことが指摘されている。その結果、AIモデルは開発者に対して古いバージョンのソフトウェアや、実際には存在しない架空のパッケージを推奨してしまうことがある。

　攻撃者はこの仕組みを悪用し、AIモデルがハルシネーション（もっともらしいうそ）として提示しがちな架空のパッケージ名と同じ名称のマルウェアを公開リポジトリに配置する。開発者がAIモデルの提案をうのみにしてそのパッケージをダウンロードすれば、企業システムにマルウェアが侵入してしまう。

MCPの普及と機密データ流出の危険性

　新たな脅威として専門家が警鐘を鳴らすのが、LLMに外部ツールとの連携機能を持たせるMCP（Model Context Protocol）の無秩序な利用だ。MCPを利用することで、AIエージェントはより高度なタスクを自動で処理できるようになる反面、インターネット上には出どころ不明のMCPサーバが多数共有されるようになっている。

　これらのサーバを適切に検証せずにAIエージェントへ接続した場合、AIエージェントがデータを処理する過程で社内の機密情報が外部の悪意あるサーバに送信されてしまう恐れがある。これは、従来のソフトウェア開発においてランダムに複数の依存関係を取り込むよりも、さらに致命的な情報漏えいにつながる危険性をはらむものだ。

多様な専門家の結集による対抗策

　これらの課題に対処するための具体的な手段として、エバンス氏は「AIガバナンスのヒドラには、別のヒドラをデプロイして立ち向かう」というアプローチを提唱する。

　従来のソフトウェア開発では、開発が完了した段階でGRC（ガバナンス、リスク、コンプライアンス）担当チームがチェックする手法が主流だった。しかし、エンドツーエンドのAIアプリケーション開発においては、データサイエンティスト、AIエンジニア、GRC担当者、サイト信頼性エンジニア（SRE）など、これまで接点のなかった多様な専門家が開発の初期段階から協力する体制が不可欠になる。

　この部門横断的な協業を促進する枠組みとして、DevSecOpsの概念を機械学習モデルに拡張した「MLSecOps」の導入が有効となる。各部門が独自の視点を持ち寄り、共通の言語でセキュリティリスクについて議論することで、AIシステムの全容を把握し、潜在的な問題を初期段階で排除することが可能となる。具体的な取り組みとして、OpenSSFでは「MITRE ATT&CK」フレームワークをMCPのツール呼び出しにマッピングし、GRCチームが既存の管理手法をAIに適用しやすくするプロジェクトも進行中だ。

　欧州のサイバーレジリエンス法（CRA）のような厳格な規制の施行が迫る中、企業はOSSを含めたAIシステム全体の透明性を確保し、インシデント発生時に速やかに対処できる体制を構築しなければならない。AI技術は企業の成長に不可欠な強力な推進力となる一方で、その運用体制に不備があれば致命的な経営リスクになる。目先の開発効率にとらわれることなく、現場の開発者とセキュリティ部門が一体となって強固なガバナンス体制を築くことが、これからのデジタル競争を勝ち抜くための鍵となる。

本稿は、CNCFが2025年11月25日に公開した動画「Taming the AI Hydra: Real-World Lessons in Governin... Brian Fox, Sarah Evans & Christopher Robinson」を基に作成しました。