次々と湧き上がってくる脆弱性
誰も把握できていないAIが招く脅威 制御不能なLLMを飼いならすには?
企業でのAI利用が急速に進む中、開発現場ではAIが生成した脆弱なコードやデータ流出などの新たなセキュリティリスクが急増している。複雑化するAIガバナンスの課題と、その実践的な解決策を解説する。
企業のシステム開発において、AI技術の活用は避けて通れない要素となっている。オープンソースのモデル共有サービスでは無数のAIモデルが公開されており、開発者はこれらを無秩序に自社のシステムへ組み込んでいる状況にある。
この急速な普及は、開発速度を飛躍的に向上させる一方で、企業に深刻な「痛み」をもたらしつつある。非エンジニアがAIツールを利用してソースコードを生成するようになった結果、誰も内容を詳細に把握していない脆弱(ぜいじゃく)なプログラムが社内にまん延し始めているのだ。この状況は、ギリシャ神話に登場する、首を切り落としても次々と新たな首が生えてくる怪物「ヒドラ」に例えられる。1つのセキュリティ課題を解決したと思っても、新たな技術の導入により別のリスクが次々と頭をもたげる状態だ。
企業はこの制御不能な「AIというヒドラ」をどのように飼いならせばよいのか。歴史を振り返りつつ、新たなセキュリティ脅威に対抗するための具体的な処方箋を探る。
AIによる「幻覚」が招くサプライチェーン攻撃
併せて読みたいお薦め記事
AIの脆弱性に対処する
米国で開催されたクラウドネイティブ技術のカンファレンス「KubeCon + CloudNativeCon North America 2025」において、セッション「Taming the AI Hydra: Real-World Lessons in Governing AI Across the Enterprise」では、第一線で活躍する専門家が、AIガバナンスの最前線について語った。登壇したのは、セキュリティベンダーSonatypeのブライアン・フォックス氏、Dell Technologiesのサラ・エバンス氏、OSS(オープンソースソフトウェア)の業界団体OpenSSF(Open Source Security Foundation)のクリストファー・ロビンソン氏だ。
本セッションで強調されたのは、昨今のAI技術を取り巻く状況が、かつてのソフトウェア開発における依存関係の乱用と酷似している点だ。開発者が内容を十分に理解せずに外部のライブラリを取り込んでいた時代と同様に、AIモデルや外部のAIツールが無自覚に組み込まれている。
特に警戒すべきなのが、大規模言語モデル(LLM)が持つ学習データの古さに起因するリスクだ。LLMは過去のインターネット上のデータを基に学習しているため、最新のセキュリティパッチが適用されたソフトウェアのバージョンを把握していないことが指摘されている。その結果、AIモデルは開発者に対して古いバージョンのソフトウェアや、実際には存在しない架空のパッケージを推奨してしまうことがある。
攻撃者はこの仕組みを悪用し、AIモデルがハルシネーション(もっともらしいうそ)として提示しがちな架空のパッケージ名と同じ名称のマルウェアを公開リポジトリに配置する。開発者がAIモデルの提案をうのみにしてそのパッケージをダウンロードすれば、企業システムにマルウェアが侵入してしまう。
MCPの普及と機密データ流出の危険性
新たな脅威として専門家が警鐘を鳴らすのが、LLMに外部ツールとの連携機能を持たせるMCP(Model Context Protocol)の無秩序な利用だ。MCPを利用することで、AIエージェントはより高度なタスクを自動で処理できるようになる反面、インターネット上には出どころ不明のMCPサーバが多数共有されるようになっている。
これらのサーバを適切に検証せずにAIエージェントへ接続した場合、AIエージェントがデータを処理する過程で社内の機密情報が外部の悪意あるサーバに送信されてしまう恐れがある。これは、従来のソフトウェア開発においてランダムに複数の依存関係を取り込むよりも、さらに致命的な情報漏えいにつながる危険性をはらむものだ。
多様な専門家の結集による対抗策
これらの課題に対処するための具体的な手段として、エバンス氏は「AIガバナンスのヒドラには、別のヒドラをデプロイして立ち向かう」というアプローチを提唱する。
従来のソフトウェア開発では、開発が完了した段階でGRC(ガバナンス、リスク、コンプライアンス)担当チームがチェックする手法が主流だった。しかし、エンドツーエンドのAIアプリケーション開発においては、データサイエンティスト、AIエンジニア、GRC担当者、サイト信頼性エンジニア(SRE)など、これまで接点のなかった多様な専門家が開発の初期段階から協力する体制が不可欠になる。
この部門横断的な協業を促進する枠組みとして、DevSecOpsの概念を機械学習モデルに拡張した「MLSecOps」の導入が有効となる。各部門が独自の視点を持ち寄り、共通の言語でセキュリティリスクについて議論することで、AIシステムの全容を把握し、潜在的な問題を初期段階で排除することが可能となる。具体的な取り組みとして、OpenSSFでは「MITRE ATT&CK」フレームワークをMCPのツール呼び出しにマッピングし、GRCチームが既存の管理手法をAIに適用しやすくするプロジェクトも進行中だ。
欧州のサイバーレジリエンス法(CRA)のような厳格な規制の施行が迫る中、企業はOSSを含めたAIシステム全体の透明性を確保し、インシデント発生時に速やかに対処できる体制を構築しなければならない。AI技術は企業の成長に不可欠な強力な推進力となる一方で、その運用体制に不備があれば致命的な経営リスクになる。目先の開発効率にとらわれることなく、現場の開発者とセキュリティ部門が一体となって強固なガバナンス体制を築くことが、これからのデジタル競争を勝ち抜くための鍵となる。
本稿は、CNCFが2025年11月25日に公開した動画「Taming the AI Hydra: Real-World Lessons in Governin... Brian Fox, Sarah Evans & Christopher Robinson」を基に作成しました。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
関連記事
新着ホワイトペーパー PR
-
課題解決
[NTT東日本株式会社] いま建設業に「10ギガ光回線」が必要な理由とは? -
課題解決
[NTT東日本株式会社] 情報漏えいも業務停止もさせない「止まらないネットワーク」への第一歩は? -
課題解決
[NTT東日本株式会社] 情報漏えいや業務停止に備える、安心・安定のネットワーク環境とは? -
事例
[Wrike Japan 株式会社] 年間100件超でも“プロジェクト炎上”を回避、JERAの管理体制は何が違うのか? -
事例
[Wrike Japan 株式会社] プロジェクト納品時間を最大40%短縮 事例で見る「劇的な高速化」の実現方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
2
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
3
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
4
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
5
企業が「Microsoft Azure」を選ばざるを得ない理由
-
6
なぜ「PHP2Shell」はパッチを当てても終わらないのか?
-
7
「Android」の極悪マルウェア、非公式アプリからうっかり感染しないためには?
-
8
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
-
9
なぜAIで「無意味な仕事」が増えるのか 人間の監視がむしろ足かせに?
-
10
パスワードはなぜ死んだか 情シスが今すぐ始めるパスキー移行の現実解
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
6
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
「止まらない」と「シンプル運用」を両立、四街道市新庁舎を支えるネットワーク
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー