特定ユースケースは「ノーゴーゾーン」扱いすべき
生成AIアプリで4社に1社で事故発生か 「エージェント型AI」の危険度を探る
ガートナーは、2028年までに企業向け生成AIアプリケーションの25%が、年5件以上のセキュリティインシデントを経験するとの予測を発表した。情シスリーダーが今すぐ設定すべき「ガードレール」と警戒すべき領域とは。
「AIに業務を任せるのはいいが、管理の届かない場所で勝手に動かれたらどう責任を取ればいいのか」――。現場の熱狂とは裏腹に、情報システム部門リーダーの不安は募るばかりだ。ガートナーの最新予測は、その懸念が数年以内に現実のものとなることを物語っている。
2028年までに、企業向け生成AIアプリケーションの4社に1社が、年間5件以上のセキュリティ事故を経験するというのだ。かぎを握るのは、自律的に動く「エージェント型AI」の台頭と、「Model Context Protocol（MCP）」の普及である。利便性を優先するあまり見落とされがちなセキュリティの「死角」をどう埋めるべきか。ガートナーが提唱する「ノーゴーゾーン（立ち入り禁止領域）」の定義と、組織を守るための具体的な防衛策を明かす。
どのような事故が起きるのか
ガートナーの予測によれば、企業向け生成AIアプリケーションの軽微なセキュリティインシデントの発生率は、2025年の9%から2028年には25%へと急増する見込みだ。さらに深刻なのは重大なインシデントの発生率で、2029年までに、全ての企業向け生成AIアプリケーションの15%が、年間少なくとも1件の重大事故を経験すると予測されている。これは2025年の3%から5倍に跳ね上がる計算だ。
リスク増大の背景には、組織がエージェント型AIの構築や統合を加速させている現状がある。特に「Model Context Protocol（MCP）」などの技術を用いる際、未成熟なセキュリティプラクティスがリスクエクスポージャ（危険にさらされる資産）の大幅な増加を招くという。
利便性を優先した「MCP」の落とし穴
MCPは、AIエージェントの相互運用性や開発の柔軟性を最優先に設計されている。しかし、ガートナーのバイスプレジデントアナリスト、ベン・ロード氏は「MCPはデフォルトでセキュリティを強化するものではない」と指摘する。
設計の主眼が開発スピードにあるため、通常の利用環境であっても設定ミスや誤りが表面化しやすい。特にエージェントが「機密データへのアクセス」「信頼できないコンテンツの取り込み」「外部との通信」という3つの要素を同一フロー内で行う場合、情報持ち出しのリスクが極めて高くなる。ガートナーは、これらの要素が組み合わさるユースケースを「ノーゴーゾーン（立ち入り禁止領域）」と定義し、強い警戒を呼びかけている。
情シスリーダーが講じるべき4つの防衛策
増大するリスクに、ガートナーはソフトウェアエンジニアリングやIT部門のリーダーに向けて、以下の対策を推奨している。
- 厳格なセキュリティレビューの実施
MCPのユースケースで正式なレビューを行い、高リスクな組み合わせを明示的に除外する。
- 低リスクパターンの優先
最初から高機能なエージェントを狙わず、安全性が確認されているパターンから導入を進める。
- エージェント特化の認証・認可
ユーザー権限をそのまま流用するのではなく、エージェント型AIのために設計された強固な認証プラクティスで補強する。
- 既知の脅威パターンの緩和
コンテンツインジェクション（悪意ある命令の注入）やサプライチェーンの脆弱性、不適切な権限昇格など、既知の攻撃パターンを事前につぶしておく。
「ドメイン専門家」によるガードレール構築
セキュリティ対策を大規模に機能させるには、IT部門だけで完結させないことが重要だという。ガートナーは、各業務分野の「ドメイン（特定分野の）専門家」がMCPサーバのオーナーとなり、ガードレールを定義することを提案している。
AIエージェントが複雑化するほど、一元的なデータ管理やコンプライアンスの維持は困難になる。だからこそ、現場の業務とデータに精通した専門家が、AIに許可するアクセス権限やリソースを事前に規定し、「デフォルトで安全」な状態を逆算して作り上げる必要があるとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
新着ホワイトペーパー PR
-
製品資料
使用中のデータを保護して安全な共同開発へ、クラウド時代のデータセキュリティ -
製品資料
“AIによる高速な脆弱性検出”対策を行う、RHELの統合セキュリティ機能とは？ -
製品資料
企業ITを支える定番Linuxの運用管理、手動の限界を乗り越える手法とは？ -
製品資料
AIとクラウドネイティブの課題を解決する、シンプルで費用対効果に優れた方法 -
製品資料
ITリーダーのための「クラウドネイティブ戦略」ガイド
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ人はいるのにDXが進まない？ ライオンも直面した“老害”レガシーシステム
-
2
「業務改善とツール活用」に関するアンケート
-
3
「次世代業務PCへの移行」に関するアンケート
-
4
「結局使われない」Microsoft 365 Copilot なぜキリンは“全社定着”できたのか
-
5
LLMの「過学習」、正しく説明している文章はどれ？
-
6
「結局使わなくなる」Microsoft 365 Copilotを半年で定着 キリンの3施策
-
7
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
8
AI投資が無駄に終わる 「データセンター人材の枯渇」が招く最悪のシナリオ
-
9
Salesforce×Claude連携 業務アプリの“ツール往復”をなくす新構想
-
10
「野良AWS」放置が招く危機 重大なアラートを“ほぼゼロ”にした逆転の統制術
ホワイトペーパーランキング PR
-
1
属人化や仕様バグはなぜ起きる？ AI時代に必須のドキュメント文化の作り方
-
2
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
中小企業必見、Microsoft 365でゼロトラストセキュリティを実現する方法
-
6
5分で分かる「AI駆動開発エージェント」 要件定義から設計・実装・テストまで
-
7
動画で知るランサムウェア被害企業のリアル、会計データが無事だった理由とは
-
8
“あのファイル転送”で暗躍するノーウェアランサム
-
9
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは？
-
10
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー