IBMが提案する「セキュリティプロキシ」とは
賢い、速い、安全の全部乗せは無理? AIセキュリティのトレードオフ克服の切り札
IBMのディスティングトエンジニア、ジェフ・クルム氏は、AIシステムでは「賢さ」「速さ」「安全性」の3要素を同時に最大化することが難しいと指摘する。ではどうすればいいのか。同氏が対策を紹介する。
AIシステムを高性能にするために、メモリやインターネット、社内データベース、外部ツールへのアクセスを認める。応答を速くするために、処理途中のチェックを減らす――。こうした設計を進めるほど、セキュリティとの両立は難しくなる。
AIシステムには「賢さ」「速さ」「安全性」の3つを求めがちだ。一方、IBMのディスティングイッシュトエンジニア、ジェフ・クルム氏は、「この3つを同時に最大化することは難しい。2つを優先すると残る1つを犠牲にしやすい」と話す。これを「AIセキュリティのトリレンマ」と捉える考え方があるという。
なぜAIでは、このようなトレードオフが生まれるのか。企業がAIエージェントを導入する際、どのような対策を講じればいいのか。クルム氏の説明を紹介する。
「賢い・速い・安全なAI」は難しい 対策は?
ここでいうAIの「賢さ」とは、単に質問に正確に答えられることだけではない。複数段階にわたる推論や計画、広いコンテキストの理解、問題解決、外部ツールの利用なども含む。
こうした能力を高めるには、AIシステムにより多くの機能や権限を与える必要が出てくる。例えば、過去のやりとりを参照できるメモリを持たせる、インターネットへ接続する、ツールやデータベース、APIを利用できるようにするといった設計だ。場合によっては、センサーから現実世界の情報を取り込み、外部機器を操作する仕組みも考えられる。
一方、機能を増やせば、それぞれの機能が新たな攻撃経路になり得る。AIエージェントやシステムにデータベースへのアクセスを許可すれば、そのデータベースが保護対象になる。外部APIを操作できるようにすれば、AIが不適切な命令を受け取った際に外部システムへ影響を及ぼす可能性も考慮しなければならない。
つまり、「AIを高性能にするために権限を増やす」ことと「攻撃対象領域を小さくする」ことは相反しやすい。AIシステムの能力が増えるほど、安全に管理しなければならない接点も増える。
「速いAI」にするとセキュリティチェックの時間が減る
2つ目の要素が「速さ」だ。AIエージェントには、人間を介さず即時応答したり、低遅延でリアルタイムに処理したりすることが期待される。しかし、処理速度を高めれば、安全性を確認するために使える時間は短くなる。
例えばAIへの入力をスキャンし、プロンプトインジェクションが含まれていないかどうかを確認する。AIの出力を分析して機密情報が含まれていないかどうかを調べる。さらに、処理内容が企業のセキュリティポリシーに沿っているかどうかを確認する。
こうした検査を挟めば、それだけ処理は増える。AIエージェントとのやりとりをミリ秒単位で完了させようとすれば、全ての入出力を詳細に検査することは難しくなる。高速化を追求するほど、安全に介入できる余地は小さくなるというわけだ。
安全にしようとすると「摩擦」が生まれる
一方、安全性を優先すれば、別の問題が生まれる。AIシステムを保護する方法としては、プロンプトインジェクション対策、出力内容の検証、DLP(Data Loss Prevention)による情報漏えい対策、ポリシーの適用、ツールへのアクセス制御などが考えられる。
さらに、入力や出力の検査、フィルタリング、ガードレール、サンドボックス、ログ取得、人間による確認なども必要になる。ただし、こうした仕組みはAIエージェントの動作に「摩擦」を加えることになる。人間による承認を必要とすれば完全な自律実行は難しくなり、入出力を検査すれば応答にも時間がかかる。
そのため、AIエージェントの安全性を徹底的に高めようとすれば、速度や自由度をある程度抑える必要がある。
「賢い+安全」なら遅くてもよい用途を選ぶ
では、企業は3つのうち何を優先すればよいのか。重要なのは、全てのAIシステムで同じバランスを目指さないことだ。
例えば「賢さ」と「安全性」を優先すれば、速度は犠牲になりやすい。ただし、必ずしもそれが問題になるとは限らない。
高度な調査をAIエージェントに任せる場合、20秒で回答を得ることよりも、20分かかっても十分に分析された結果を得ることの方が重要な場合がある。医学的な診断であれば、X線画像などを分析する際には、速さより正確な分析を優先する。
「賢い+速い」が許されるのは低リスクの用途
反対に、「賢さ」と「速さ」を優先すると、安全性に割ける余裕は小さくなる。
それでも、扱う情報やAIエージェントの処理結果が低リスクであれば、この組み合わせが適する場合がある。
例えば、AIエージェントが扱うデータが誰でも閲覧できる公開情報だけであり、多少誤った結果を出しても重大な影響につながらない場合だ。また、本番環境ではなく、AIエージェントで何が実現できるのかを確かめるPoC(概念実証)であれば、まず速度と能力を優先するという判断も考えられる。
「安全+速い」なら高性能なAIは必要ない
3つ目は「安全性」と「速さ」を優先し、AIエージェントの能力を限定する方法だ。
全ての業務で高度な推論能力が必要なわけではない。単純な操作や定型的な質問への回答であれば、高性能なAIモデルを使わなくても目的を達成できる可能性がある。AIエージェントに任せる業務を限定し、必要以上の能力や権限を与えない設計が選択肢となる。
AIの外側に「セキュリティプロキシ」を置く
では、「賢さ」「速さ」「安全性」をできるだけ高い水準で両立する方法はないのか。
その方法としてクルム氏が紹介するのが「AIセキュリティプロキシ」だ。
AIモデルそのものに全ての安全対策を担わせるのではなく、AIの外側にポリシーを適用するレイヤーを設ける。そこでAIへの入力を検査し、プロンプトインジェクションなどを検知する。AIの出力に機密情報が含まれていれば除去し、AIエージェントが外部ツールを利用する場合には権限を制御する。
セキュリティポリシーをAIモデルとは別のレイヤーで一貫して適用することで、モデル自体の能力や速度を維持しながら、周辺でリスクを抑えるという考え方だ。
もちろん、この仕組みを導入したからといって「AIセキュリティのトリレンマ」そのものがなくなるわけではない。検査や制御を追加すれば一定の処理負荷は発生する。
それでも、AIモデル自身に安全性の全てを依存するのではなく、「どのAIに、どのデータやツールへのアクセスを、どこまで許可するのか」を外部から制御する設計は、企業がAIエージェントの利用範囲を広げる上で重要な考え方になる。
AIにできることを増やせば増やすほど、守るべき対象も増える。情シスやセキュリティ部門には、「最も賢いAIを導入する」ことだけではなく、用途ごとに必要な賢さ、速度、安全性を見極め、どこに制御を置くのかを設計することが求められる。
本稿は、IBM Technologyが2026年8月18日に公開したWhat Is the AI Security Trilemma? Smart, Fast, or Secure AI?を基に作成しました。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] 事例に学ぶ、マルチAIエージェント基盤による製造業DXの実現方法 -
事例
[株式会社グローバルウェイ] ポリプラスチックスに学ぶERP刷新 開発を大幅に効率化したアプローチとは? -
製品資料
[株式会社バッファロー] テナント入居時の落とし穴 節約のための「家庭用Wi-Fiルーター利用」がNGな訳 -
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[パーソルクロステクノロジー株式会社] 失敗しない、「DXコンサルティング」活用ノウハウ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
3
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
4
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
5
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
6
Wi-Fi 7導入で検討したい安定運用の要件 無線LANの不調を避けるには
-
7
WordPressサイトの4割が旧版のまま 自動更新が止まる組織の共通点
-
8
なぜ「PHP2Shell」はパッチを当てても終わらないのか?
-
9
「エンタープライズAI活用・基盤整備」に関するアンケート
-
10
「WSUS」更新終了で迫られる決断 8割が選んだ“本命”移行先ツールとは?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
6
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー