AIを「スタッフ」と捉えよ
情シスが知るべき「AIランタイムセキュリティ」の現実的な対策
AIによるデータ漏えい対策に目が向けられがちだが、稼働中のモデルを保護する「ランタイムセキュリティ」は深刻な死角となっている。自律的に動くAIエージェントは、既存の防御策を容易に突破し、組織を内部から破壊する武器になりかねない。AIをスタッフと見なし、ゼロトラスト原則を適用すべき理由と具体的な防衛策を詳説する。
CISO(最高情報セキュリティ責任者)はAIがサイバーセキュリティに与える影響を認識している。しかし、その大半はいまだにAIによるデータ流出やコンプライアンス違反の防止に終始しており、AIに関連するサイバーセキュリティの全容に目を向けている層はまだ少数だ。
「ランタイムセキュリティ」は、稼働中のモデルを侵害から保護することにフォーカスしたものだ。開発やデプロイの段階だけでなく、AIシステムが実際に動作し、意思決定を行っている最中に監視・保護・制御することを意味する。
稼働中のAIツールの侵害を防ぐことは、データ流出やコンプライアンス違反から組織を守るだけではない。AIが他の攻撃を仕掛けたり支援したりするための武器として悪用されるのを防ぐことにもつながる。つまり、AIツールそのものを守るだけでなく、AIツールからビジネスを守る役割を果たす。具体的には、プロンプトインジェクション攻撃、ツールの無断使用、過剰な権限、モデルの悪用といった脅威からモデルを保護する。
ランタイムセキュリティには、アクセス権の保護、入力の精査、出力のチェックが必要だ。また、AIに異常な挙動がないかを監視することも必要となる。以下では、AIをスタッフと見なし、ゼロトラスト原則を適用すべき理由と具体的な防衛策を詳説する。
AIを「ソフトウェア」ではなく「スタッフ」と捉える
「AIとゼロトラスト」に関連する編集部お薦め記事
データ流出というよくあるシナリオを超えて、なぜ詳細なランタイムセキュリティに労力をかける価値があるのか。そう疑問に思うCISOもいるだろう。適切な考え方を持つには、AIを単なるソフトウェアではなく「スタッフ」と見なすのが近道だ。
従来のWebアプリケーションは、一般に開発者がコードで記述したことしか実行しない。一方、AIモデルやエージェントは、学習内容に応じて推論し、ツールを選択し、アクションを連鎖させ、複数の結果を伴う行動をとることができる。侵害されたAIが企業に与えるダメージは、そのAIが誰に、どの程度信頼されているかに比例する。以下のシナリオを考えてみてほしい。
- ネットワーク内の分析AI:スタッフのトラブルシューティングを支援するAIが、外部の攻撃者に侵害のための重要情報を提供してしまう。また、侵害の痕跡を隠蔽するために悪用される恐れもある
- ネットワーク内のエージェント型AI:ネットワーク機器の設定を変更できるAIが、外部の攻撃者のためにセキュリティホールを作成してしまう。進行中の侵害を示す監視データの流れを迂回(うかい)させたり、停止させたりすることも考えられる
- 精査機能のないAI:プロンプトや出力の精査が行われない場合、データを外部に流出させるよう指示する命令を埋め込んだプロンプトや外部データが入力される可能性がある
- プロンプト精査のないAI:従業員からの正当な要求に、AIがだまされて嘘をつくように仕向けられる。従業員は、データツールが意図的にデータを偽って提示するとは考えていないため、被害に遭いやすい
AIランタイムセキュリティの課題
AIランタイムセキュリティで直面する最大の課題は、企業内でのAI活用の拡大、技術の進化、そしてAI専用ツールの不足だ。
急速に進化するAIの活用
ソフトウェアベンダーは、自社製品にAIを組み込むさまざまな方法を模索し続けている。一方でユーザーや企業は、システム間にAIを介在させることで価値を引き出そうとしている。企業はAIツールに、より多くの、かつ多様な種類のデータや、ITサービスの基幹環境へのアクセス権を与えつつある。そのため、必要な全ての箇所にセキュリティを組み込むことは、動き続ける標的を狙うような難しさがある。
進化するAIのコア技術
サイバーセキュリティから見て最も危険な変化は、受動的なツールから能動的なツール(エージェント)へ、そして独立したAIツールから統合されたAIツールへの急速な移行である。特に後者は、Model Context Protocol(MCP)の普及によって促進されており、攻撃対象領域を複雑化させ、拡大させている。
AI専用セキュリティツールの不足
AI専用のセキュリティツールがないため、既存のツールやサービスに頼らざるを得ないが、それらは新たな課題に対応しきれていない。従来の静的コードスキャナーやソフトウェア構成分析(SCA)では、汚染されたプロンプトファイルやスキル定義を検出できない。また、従来のWebアプリケーションファイアウォール(WAF)では、外部公開されたAIに対する悪意のあるプロンプト入力を検出・遮断できない。
さらに、攻撃者もAIを利用でき、AIツールを侵害する方法を見つけるためにAIを駆使しているという点も忘れてはならない。
AIランタイムセキュリティのベストプラクティス
何よりもまず、AIにはゼロトラストセキュリティが必要だ。それを前提とすれば、以下のようなベストプラクティスが見えてくる。
- アイデンティティー(ID)をゼロトラストの中核に据える:ユーザーや従来のソフトウェア、ハードウェアだけでなく、AIそのものにもIDを適用する
- ゼロトラストの原則をAIに適用する:明示的に許可されていないAIツールへのアクセスは全て遮断する。MCPを介した他のAIも含め、そのツールがサービスを提供すべきユーザーやシステムにのみアクセス権を与える
- アクセス制御の先までゼロトラストを拡張する:AIシステムへのアクセスを許可されたエンティティでも、意図された場合を除いて全ての機能をデフォルトで利用させるべきではない。これには、不適切なデータ要求やツールの悪用を試みる動きを阻止するためのプロンプトフィルタリングが含まれる
- ランタイムの挙動にゼロトラストを適用する:完全なゼロトラスト環境では、挙動を監視し、それに基づいてアクセス権限を能動的に更新する必要がある。AIでは、不審なプロンプトを繰り返し入力しようとするユーザーや、その接続元システムを遮断することがこれにあたる。同様に、AIに不正な動作をさせようとするMCPノードも遮断すべきである。奇妙な動作や悪意のある動作を始めたAIツール自体のアクセス権も停止させる
こうした原則を環境に実装するには、新規導入やアップグレードによって、サイバーセキュリティツールの新たなレイヤーを幾つか構築する必要がある。また、動的なAIエージェント環境を処理できるアイデンティティー管理システムも必要になるだろう。CISOはAI戦略に基づいたリスク評価を実施し、必要な投資の優先順位を決定すべきだ。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] APIを資産化して再利用、旭化成ホームズに学ぶシステム連携コストの削減方法 -
事例
[横河レンタ・リース株式会社] 「Wi-Fiにつながらない」「会議中に途切れる」の原因を切り分けやすくするには -
技術文書・技術解説
[アトラシアン株式会社] AIを導入で終わらせない、個人の利用から組織の成果に変えるリーダーの実践指針 -
製品資料
[アトラシアン株式会社] 生成AIの全社展開とROI最大化を阻む“ナレッジの壁” 突破するための4ステップ -
製品資料
[株式会社Helpfeel] コールセンター長を悩ませる「4大課題」と解決策
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
2
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
3
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
4
「プロンプトインジェクション」の適切なリスク対策はどれ?
-
5
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
6
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
7
AI利用時に情報漏えいが起きた場合の適切な対応はどれ?
-
8
冷凍庫が一晩で50℃に 仏約700拠点を襲ったOT攻撃、侵入口は「遠隔管理」
-
9
「Azure OpenAIなど生成AI」に関するアンケート
-
10
IBM iのブラックボックス化を打破 資産継承と進化を実現する「IBM Bob」の実力
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
「Microsoft 365」徹底解説ガイド テレワーク時代のセキュリティ対策編
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー