商用AIの壁に挑むオープンモデル戦略
AIがサイバー攻撃調査を拒否？ セキュリティ企業が単一モデル依存から脱却する理由
商用AIの安全機能が正規の攻撃解析を「悪意ある行為」と誤認して拒絶する問題が深刻化している。調査停止の危機に直面したセキュリティ各社が打ち出す、単一モデル依存から脱却するための現実解とは。
商用AIモデルが、正当なセキュリティ分析を悪意ある活動と誤認する事態が頻発していることは、サイバーセキュリティ業界全体で深刻化する課題を浮き彫りにしている。上流のAI安全ガードレールによって重要なセキュリティワークフローが滞るのを防ぐため、セキュリティベンダー各社は現在、製品の単一モデルへの依存を解消する動きを加速させている。
Hugging Faceが悪意あるAIエージェントによる攻撃を受けた際、インシデント対応担当者は1万7600件に及ぶ侵入ログの調査を独自のAI支援パイプラインで実行した。しかし、セキュリティチームが「Claude Opus」や「Fable」に攻撃コマンド、エクスプロイトペイロード、C2（コマンド＆コントロール）の痕跡の分析を求めたところ、モデル側はその多くを拒絶した。
「モデルの安全ガードレールは、エクスプロイトのリバースエンジニアリングを攻撃の実行と同列に扱った」とHugging Faceのエンジニアは公式ブログで説明している。そのため同社は、自社のインフラ上でオープンウェイトモデル「GLM-5.2」を経由するようパイプラインを迂回（うかい）させた。
Hugging Faceの事例は決して特殊なケースではない。商用大規模言語モデル（LLM）が安全基準の適合性（アライメント）を厳格化するにつれ、無害な脅威調査が悪意ある行為と判定され、セキュリティチームやソフトウェアベンダーの業務が停止する事態が生じている。安定したインシデント対応能力を維持するため、ベンダー各社はアーキテクチャの柔軟性を重視し、上流の拒否ゲートを回避するためのマルチモデルフレームワークや、自社運用（セルフホスト型）のオープンウェイトLLMの構築を進めている。
脅威検知企業ExtraHopのCEO、グレグ・クラーク氏は米TechTargetの取材に、「攻撃者は自らに有利に働くAIモデルなら何でも利用し、より優れたものが現れれば即座に乗り換える」と語る。「防御側にも同様の自由が必要だ。特定プロバイダーによる方針変更や機能制限に縛られるべきではない」（クラーク氏）
以下では、調査停止の危機に直面したセキュリティ各社が打ち出す、単一モデル依存から脱却するための現実解について解説する。
マルチモデルの柔軟性でAIの拒否ゲートを突破
商用AIベンダーが設けた予測困難なトラップ（トリップワイヤ）をすり抜けるため、セキュリティベンダーはマルチモデルアーキテクチャを採用している。これにより、モデルがクエリを拒否した場合でも、セキュリティ運用（SecOps）のワークフロー内でプロンプトを自動的に切り替えたり、別のモデルへ迂回（うかい）させたりできるようになる。
例えば、2026年7月に設立された「Agentic SOC Alliance」は、ExtraHopなどサイバーセキュリティベンダー15社で構成される連合体だ。同団体は、SOC（セキュリティ運用センター）のセキュリティテレメトリーやガバナンスを基盤となるAIモデルから分離するレファレンスアーキテクチャを提案している。モデルがリクエストの処理を拒絶した場合でも、実行レイヤーを容易に差し替えられる設計だ。
Informa TechTargetの調査部門Omdiaでアナリストを務めるアンドリュー・ブラウンバーグ氏は、「フロンティアモデル、小規模な専門モデル、決定論的な自動化の間を行き来できるワークフローがあれば、アクセス制限の変更や介入によって処理が中断された場合でも、ベンダー側により多くの選択肢がもたらされる」と話す。
ExtraHopのグローバルエンジニアリング担当バイスプレジデント、ポール・ジョルジ氏によると、同社の研究ラボで最近実施された検証は、マルチモデルの柔軟性が現場で求められる実情を示している。同氏のチームがWindowsのDNS脆弱（ぜいじゃく）性の悪用について調査するようAIエージェントに求めたところ、多くのモデルが回答を拒絶した。CVE番号を明示し、悪用されている痕跡について尋ねたことがガードレールに抵触したという。
「最終的にうまくいったのは、同様の調査を『本来接続するはずのないDNSサーバが通信を行っている』という観測可能なネットワーク挙動として定義し、構造化された段階的なタスクとして記述する方法だった」とジョルジ氏は振り返る。「この手法であれば大半のモデルで処理が完了したが、あるモデルはどう試みても拒否し続けた」
同氏が付け加えた教訓は、モデルごとにトリップワイヤや拒否ゲートが仕組まれている箇所が異なり、SOCのあらゆる役割を完璧にこなせる単一のモデルは存在しないことだ。
Palo Alto Networksの調査結果も、脆弱性検知を含む各種セキュリティ用途でマルチモデルのアプローチが必要であることを裏付けている。複雑な環境を対象としたテストで、単一のAIモデルで検知できた脆弱性は全体の40％にとどまり、主要モデル同士の検知結果の重複も驚くほど少なかった。同社は最近この知見を実用化し、「Unit 42 Continuous Frontier AI Defense」というサービスの提供を開始した。同サービスでは、Anthropicの「Claude Mythos」、OpenAIの「GPT-5.6-Cyber」、そして各種オープンウェイトモデルへクエリを分散して処理させている。
オープンウェイトモデルでサードパーティーのガードレールを回避
マルチモデルによるルーティングが運用の柔軟性を提供する一方で、オープンウェイトの基盤モデルを直接活用し、モデルの制御権をさらに強化するベンダーもある。これらのモデルは一般に公開されており、ユーザーがダウンロードして改変し、自社のインフラ上で実行できる。
ExtraHopとともにAgentic SOC AllianceのメンバーであるCrowdStrikeは最近、レッドチーム（攻撃側）とブルーチーム（防御側）の機能を相互補完的に備えたエージェント型ハーネスモデルシステム「SafeMind」を発表した。CrowdStrikeは、このシステムの基盤となる攻撃モデル「Red Tempest」と防御モデル「Blue Solano」を、NVIDIAのオープンウェイトモデル「Nemotron」をベースに独自構築し、自社のデータでトレーニングを実施した。
Omdiaのブラウンバーグ氏は「オープンウェイトモデルへの移行により、CrowdStrikeは自社ソリューションを完全に掌握できる。防御製品が依存する機能へのアクセスを、外部ベンダーによって制限されたり停止されたりする恐れがなくなる」と指摘する。
Omdiaによると、AIを活用したSecOpsツールの導入を検討する企業セキュリティ責任者にとって、ベンダーが採用する基盤モデル戦略は主要な評価基準になりつつある。単一の商用LLMに依存する製品は、上流のプロバイダーが安全ポリシーを変更したりサービス障害を起こしたりするたびに運用が混乱するリスクを抱えている。ベンダーがマルチモデルフレームワークと特化型のオープンウェイト運用の両立を図る中、今後のレジリエンスはAIの実行レイヤーをいかに流動的かつ柔軟に保てるかにかかっている。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[セコムトラストシステムズ株式会社] SCS評価制度で重要性が増す「SASE」 制度の要求事項と機能はどう関係する？ -
製品資料
[株式会社オプティム] SaaS管理やID管理などの「資産管理」をまるごとカバーする方法とは？ -
製品資料
[株式会社kickflow] 3分でわかる「kickflow」 どのようなワークフローを実装できる？ -
事例
[株式会社kickflow] 出前館も実践 ワークフロー刷新で得られる効果とは？ -
事例
[株式会社kickflow] ワークフロー活用事例：社内システムとのAPI連携で業務効率化＆統制強化を実現
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
【漫画付き】ひとり情シス協会が明かす、RAG導入でしくじる企業「2つの共通点」
-
2
1200万円のSaaS導入を回避 スギ薬局「運用費10万円」のAIエージェント構築術
-
3
年収700万超エンジニアに共通するスキルと「もっと勉強すべきだった分野」
-
4
「企業におけるAIの運用」に関するアンケート
-
5
「完璧な設計」なのに3000万円溶けた AWSの失敗事例から学ぶ3つの教訓
-
6
「企業内サーバ環境の利用実態」に関するアンケート
-
7
本当にそのIBM iに問題はない？ ブラックボックス化と属人化を防ぐ第一歩
-
8
「シェルコード」とは？ 凶悪なマルウェア感染を可能にする手口
-
9
脱VMwareか、継続か？ 仮想化ソフト主要6製品の機能とスペックを徹底比較
-
10
なぜ情シスは評価されにくい？ 読者調査で見えた「成果が見えない仕事」第1位は
ホワイトペーパーランキング PR
-
1
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
2
バックアップは“取っているから大丈夫”なのか？ ランサムウェア時代の備え方
-
3
ネットワーク遅延の原因、「パケットロス」の基礎知識と効果的な解決策
-
4
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
5
5分で分かる Microsoft 365のデータ損失に備えるためのバックアップの仕組み
-
6
AI活用を停滞させる「2：6：2の壁」を乗り越えるためのポイントとは？
-
7
ソフトウェア開発の属人化と手戻りをどう防ぐ？ 速さと品質を両立させる方法
-
8
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
9
複雑な組織構造で一度は頓挫した電子化、東京女子医科大はどう全学展開したか
-
10
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー