AI侵害の「本当の原因」はモデルの不正操作ではなかった？：懸念と現実のずれ

AIツールの導入が加速する一方、セキュリティ侵害も勢いを増している。企業のセキュリティ担当者は「AIモデルの不正操作」といった新たな脅威を懸念しているが、実際の侵害原因は別にあるという。その実態とは。

[TechTargetジャパン]

　企業はデジタルトランスフォーメーション（DX）を急ぎ、クラウドサービスやAI（人工知能）ツールの導入を進める裏で、重大なセキュリティリスクを見過ごしている――。この実態は、セキュリティベンダーTenableとクラウドセキュリティ推進団体Cloud Security Alliance（CSA）による調査で明らかになったものだ。

　調査は2025年5月、世界中のITおよびセキュリティ分野の担当者と責任者1025人を対象に実施された。AIツールの導入も加速しており、試験導入を含めてAIツールを業務利用している企業89％のうち34％が、既にAIツール関連のデータ侵害を経験済みだという。急速な導入に対し、適切なセキュリティ対策が追い付いていない状態だ。

　侵害の原因を探ると、セキュリティ担当者が懸念している脅威と、現実に起きている脅威との間に、大きなギャップがあることが見えてきた。

最大の原因は「AIモデルの不正操作」ではない？

併せて読みたいお薦め記事

AIツール利用時のセキュリティ対策

• 生成AI時代のセキュリティ対策の鍵を握る「7つの防衛線」とは？
• AIで今までのセキュリティは役に立たなくなる？　Ciscoが鳴らす警鐘

　調査では、AI技術関連の最も懸念する脅威として「AIモデルの操作」（18％）や「不正なAIモデルの使用」（15％）が挙げられた。だが実際に侵害を引き起こした主な原因のうち、「AIモデルの欠陥や操作」は2番目に多い19％で、大半を占めるのは「ソフトウェアの脆弱（ぜいじゃく）性の悪用」（21％）、「内部関係者による脅威」（18％）、「クラウドサービスの設定ミス」（16％）といった、従来の基本的なセキュリティ問題だ。

　この「懸念と現実の不一致」について、レポートは「クラウドサービスやアイデンティティー管理で実績があるセキュリティ原則が、AIツールに適用されていない」と指摘する。

　AIツールに限らず、クラウドサービス全体の最大のリスクとして認識されているのがアイデンティティー管理の問題だ。回答者の82％がオンプレミスシステムとクラウドサービスを併用するハイブリッドクラウドを、63％が複数のクラウドサービスを使い分けるマルチクラウドを運用するなど、インフラの形態が複雑化している。そうした中で、アイデンティティーを適切に管理することがますます難しくなっているのだ。回答者の59％が、「安全ではないアイデンティティーと危険な権限」を最大のリスクと見なしている。侵害原因の上位にも「過剰な権限」（31％）や「一貫性のないアクセス制御」（27％）が並んだ。

　44％の回答者が、必要な権限のみを与える「最小権限のアクセス」の導入を最優先事項だと挙げながらも、現実には「クラウド管理チームとIAM（アイデンティティーおよびアクセス管理）チームの連携不足」（28％）や「専門知識の不足」（34％）といった組織的な課題に直面している。

　レポートは、セキュリティに関する企業のKPI（重要業績評価指標）が事後対処的である点も問題視している。最も多く追跡されているKPIは「セキュリティインシデントの発生頻度と深刻度」（43％）であり、これはインシデント発生後にしか測定できない。Tenableはこの事実について、「先行的なリスク削減よりも危機対処を優先したアプローチだ」と指摘する。

　こうした事後対処的なセキュリティ対策から脱却し、戦略的な転換が必要だとレポートは提言する。具体的には、ハイブリッドクラウド全体を一元的に可視化し、人のアイデンティティーだけではなくbotアカウントなどの非人間アイデンティティーのセキュリティも強化すること、インシデント対処よりも予防に重点を置くことを推奨している。「セキュリティの成熟度を高めるには、戦略的な連携とリスク主導の計画が決め手だ」とレポートは結論付けている。