特定ユースケースは「ノーゴーゾーン」扱いすべき
生成AIアプリで4社に1社で事故発生か 「エージェント型AI」の危険度を探る
ガートナーは、2028年までに企業向け生成AIアプリケーションの25%が、年5件以上のセキュリティインシデントを経験するとの予測を発表した。情シスリーダーが今すぐ設定すべき「ガードレール」と警戒すべき領域とは。
「AIに業務を任せるのはいいが、管理の届かない場所で勝手に動かれたらどう責任を取ればいいのか」――。現場の熱狂とは裏腹に、情報システム部門リーダーの不安は募るばかりだ。ガートナーの最新予測は、その懸念が数年以内に現実のものとなることを物語っている。
2028年までに、企業向け生成AIアプリケーションの4社に1社が、年間5件以上のセキュリティ事故を経験するというのだ。かぎを握るのは、自律的に動く「エージェント型AI」の台頭と、「Model Context Protocol（MCP）」の普及である。利便性を優先するあまり見落とされがちなセキュリティの「死角」をどう埋めるべきか。ガートナーが提唱する「ノーゴーゾーン（立ち入り禁止領域）」の定義と、組織を守るための具体的な防衛策を明かす。
どのような事故が起きるのか
ガートナーの予測によれば、企業向け生成AIアプリケーションの軽微なセキュリティインシデントの発生率は、2025年の9%から2028年には25%へと急増する見込みだ。さらに深刻なのは重大なインシデントの発生率で、2029年までに、全ての企業向け生成AIアプリケーションの15%が、年間少なくとも1件の重大事故を経験すると予測されている。これは2025年の3%から5倍に跳ね上がる計算だ。
リスク増大の背景には、組織がエージェント型AIの構築や統合を加速させている現状がある。特に「Model Context Protocol（MCP）」などの技術を用いる際、未成熟なセキュリティプラクティスがリスクエクスポージャ（危険にさらされる資産）の大幅な増加を招くという。
利便性を優先した「MCP」の落とし穴
MCPは、AIエージェントの相互運用性や開発の柔軟性を最優先に設計されている。しかし、ガートナーのバイスプレジデントアナリスト、ベン・ロード氏は「MCPはデフォルトでセキュリティを強化するものではない」と指摘する。
設計の主眼が開発スピードにあるため、通常の利用環境であっても設定ミスや誤りが表面化しやすい。特にエージェントが「機密データへのアクセス」「信頼できないコンテンツの取り込み」「外部との通信」という3つの要素を同一フロー内で行う場合、情報持ち出しのリスクが極めて高くなる。ガートナーは、これらの要素が組み合わさるユースケースを「ノーゴーゾーン（立ち入り禁止領域）」と定義し、強い警戒を呼びかけている。
情シスリーダーが講じるべき4つの防衛策
増大するリスクに、ガートナーはソフトウェアエンジニアリングやIT部門のリーダーに向けて、以下の対策を推奨している。
- 厳格なセキュリティレビューの実施
MCPのユースケースで正式なレビューを行い、高リスクな組み合わせを明示的に除外する。
- 低リスクパターンの優先
最初から高機能なエージェントを狙わず、安全性が確認されているパターンから導入を進める。
- エージェント特化の認証・認可
ユーザー権限をそのまま流用するのではなく、エージェント型AIのために設計された強固な認証プラクティスで補強する。
- 既知の脅威パターンの緩和
コンテンツインジェクション（悪意ある命令の注入）やサプライチェーンの脆弱性、不適切な権限昇格など、既知の攻撃パターンを事前につぶしておく。
「ドメイン専門家」によるガードレール構築
セキュリティ対策を大規模に機能させるには、IT部門だけで完結させないことが重要だという。ガートナーは、各業務分野の「ドメイン（特定分野の）専門家」がMCPサーバのオーナーとなり、ガードレールを定義することを提案している。
AIエージェントが複雑化するほど、一元的なデータ管理やコンプライアンスの維持は困難になる。だからこそ、現場の業務とデータに精通した専門家が、AIに許可するアクセス権限やリソースを事前に規定し、「デフォルトで安全」な状態を逆算して作り上げる必要があるとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社フィックスターズ] 組み込み開発特有の課題も解消できる「AI活用」の秘訣とは？ -
事例
[株式会社ビザスク] 「新規事業」事例集：大手企業はどのように想定顧客ヒアリングを行っているのか -
市場調査・トレンド
[株式会社ビザスク] 質の高い「仮説検証インタビュー」を実施するためのポイント -
事例
[株式会社ビザスク] 富士フイルムの新領域参入に学ぶ事業創出 「畑違い」でもビジネス化できる方法 -
事例
[株式会社ビザスク] 三菱電機 上席執行役員に学ぶ、未来を切り開く「新事業創出」の実践方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
2
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
3
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
4
「ITインフラとデータ保護・バックアップ対策」に関するアンケート
-
5
「企業内サーバ環境の利用実態」に関するアンケート
-
6
鹿島建設のDXを阻む「10年前のAWS」 安全性と自由度を両立したモダナイズ
-
7
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
8
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
9
情報漏えいはなぜ繰り返されるのか 今すぐ見直すべき「境界」
-
10
「有線LAN環境」に関するアンケート
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
3
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
4
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
5
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
6
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
7
生成AIを開発に導入しても効果が見えない？ 実証実験で分かった成果と課題
-
8
システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
-
9
経産省DX指針から読み解く、受発注業務デジタル化ロードマップ
-
10
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー