賢い、速い、安全の全部乗せは無理？ AIセキュリティのトレードオフ克服の切り札：IBMが提案する「セキュリティプロキシ」とは

IBMのディスティングトエンジニア、ジェフ・クルム氏は、AIシステムでは「賢さ」「速さ」「安全性」の3要素を同時に最大化することが難しいと指摘する。ではどうすればいいのか。同氏が対策を紹介する。

[TechTargetジャパン]

　AIシステムを高性能にするために、メモリやインターネット、社内データベース、外部ツールへのアクセスを認める。応答を速くするために、処理途中のチェックを減らす――。こうした設計を進めるほど、セキュリティとの両立は難しくなる。

　AIシステムには「賢さ」「速さ」「安全性」の3つを求めがちだ。一方、IBMのディスティングイッシュトエンジニア、ジェフ・クルム氏は、「この3つを同時に最大化することは難しい。2つを優先すると残る1つを犠牲にしやすい」と話す。これを「AIセキュリティのトリレンマ」と捉える考え方があるという。

　なぜAIでは、このようなトレードオフが生まれるのか。企業がAIエージェントを導入する際、どのような対策を講じればいいのか。クルム氏の説明を紹介する。

「賢い・速い・安全なAI」は難しい　対策は？

併せて読みたいお薦め記事

AIセキュリティの関連記事

• AIエージェントと外部ツールを安全につなぐには？ お勧めの接続パターン5選
• 「AI全面禁止」は悪手 Fintech2社が実践するシャドーAI封じの極意

　ここでいうAIの「賢さ」とは、単に質問に正確に答えられることだけではない。複数段階にわたる推論や計画、広いコンテキストの理解、問題解決、外部ツールの利用なども含む。

　こうした能力を高めるには、AIシステムにより多くの機能や権限を与える必要が出てくる。例えば、過去のやりとりを参照できるメモリを持たせる、インターネットへ接続する、ツールやデータベース、APIを利用できるようにするといった設計だ。場合によっては、センサーから現実世界の情報を取り込み、外部機器を操作する仕組みも考えられる。

　一方、機能を増やせば、それぞれの機能が新たな攻撃経路になり得る。AIエージェントやシステムにデータベースへのアクセスを許可すれば、そのデータベースが保護対象になる。外部APIを操作できるようにすれば、AIが不適切な命令を受け取った際に外部システムへ影響を及ぼす可能性も考慮しなければならない。

　つまり、「AIを高性能にするために権限を増やす」ことと「攻撃対象領域を小さくする」ことは相反しやすい。AIシステムの能力が増えるほど、安全に管理しなければならない接点も増える。

「速いAI」にするとセキュリティチェックの時間が減る

　2つ目の要素が「速さ」だ。AIエージェントには、人間を介さず即時応答したり、低遅延でリアルタイムに処理したりすることが期待される。しかし、処理速度を高めれば、安全性を確認するために使える時間は短くなる。

　例えばAIへの入力をスキャンし、プロンプトインジェクションが含まれていないかどうかを確認する。AIの出力を分析して機密情報が含まれていないかどうかを調べる。さらに、処理内容が企業のセキュリティポリシーに沿っているかどうかを確認する。

　こうした検査を挟めば、それだけ処理は増える。AIエージェントとのやりとりをミリ秒単位で完了させようとすれば、全ての入出力を詳細に検査することは難しくなる。高速化を追求するほど、安全に介入できる余地は小さくなるというわけだ。

安全にしようとすると「摩擦」が生まれる

　一方、安全性を優先すれば、別の問題が生まれる。AIシステムを保護する方法としては、プロンプトインジェクション対策、出力内容の検証、DLP（Data Loss Prevention）による情報漏えい対策、ポリシーの適用、ツールへのアクセス制御などが考えられる。

　さらに、入力や出力の検査、フィルタリング、ガードレール、サンドボックス、ログ取得、人間による確認なども必要になる。ただし、こうした仕組みはAIエージェントの動作に「摩擦」を加えることになる。人間による承認を必要とすれば完全な自律実行は難しくなり、入出力を検査すれば応答にも時間がかかる。

　そのため、AIエージェントの安全性を徹底的に高めようとすれば、速度や自由度をある程度抑える必要がある。

「賢い＋安全」なら遅くてもよい用途を選ぶ

　では、企業は3つのうち何を優先すればよいのか。重要なのは、全てのAIシステムで同じバランスを目指さないことだ。

　例えば「賢さ」と「安全性」を優先すれば、速度は犠牲になりやすい。ただし、必ずしもそれが問題になるとは限らない。

　高度な調査をAIエージェントに任せる場合、20秒で回答を得ることよりも、20分かかっても十分に分析された結果を得ることの方が重要な場合がある。医学的な診断であれば、X線画像などを分析する際には、速さより正確な分析を優先する。

「賢い＋速い」が許されるのは低リスクの用途

　反対に、「賢さ」と「速さ」を優先すると、安全性に割ける余裕は小さくなる。

　それでも、扱う情報やAIエージェントの処理結果が低リスクであれば、この組み合わせが適する場合がある。

　例えば、AIエージェントが扱うデータが誰でも閲覧できる公開情報だけであり、多少誤った結果を出しても重大な影響につながらない場合だ。また、本番環境ではなく、AIエージェントで何が実現できるのかを確かめるPoC（概念実証）であれば、まず速度と能力を優先するという判断も考えられる。

「安全＋速い」なら高性能なAIは必要ない

　3つ目は「安全性」と「速さ」を優先し、AIエージェントの能力を限定する方法だ。

　全ての業務で高度な推論能力が必要なわけではない。単純な操作や定型的な質問への回答であれば、高性能なAIモデルを使わなくても目的を達成できる可能性がある。AIエージェントに任せる業務を限定し、必要以上の能力や権限を与えない設計が選択肢となる。

AIの外側に「セキュリティプロキシ」を置く

　では、「賢さ」「速さ」「安全性」をできるだけ高い水準で両立する方法はないのか。

　その方法としてクルム氏が紹介するのが「AIセキュリティプロキシ」だ。

　AIモデルそのものに全ての安全対策を担わせるのではなく、AIの外側にポリシーを適用するレイヤーを設ける。そこでAIへの入力を検査し、プロンプトインジェクションなどを検知する。AIの出力に機密情報が含まれていれば除去し、AIエージェントが外部ツールを利用する場合には権限を制御する。

　セキュリティポリシーをAIモデルとは別のレイヤーで一貫して適用することで、モデル自体の能力や速度を維持しながら、周辺でリスクを抑えるという考え方だ。

　もちろん、この仕組みを導入したからといって「AIセキュリティのトリレンマ」そのものがなくなるわけではない。検査や制御を追加すれば一定の処理負荷は発生する。

　それでも、AIモデル自身に安全性の全てを依存するのではなく、「どのAIに、どのデータやツールへのアクセスを、どこまで許可するのか」を外部から制御する設計は、企業がAIエージェントの利用範囲を広げる上で重要な考え方になる。

　AIにできることを増やせば増やすほど、守るべき対象も増える。情シスやセキュリティ部門には、「最も賢いAIを導入する」ことだけではなく、用途ごとに必要な賢さ、速度、安全性を見極め、どこに制御を置くのかを設計することが求められる。

本稿は、IBM Technologyが2026年8月18日に公開したWhat Is the AI Security Trilemma? Smart, Fast, or Secure AI?を基に作成しました。