商用AIの壁に挑むオープンモデル戦略
AIがサイバー攻撃調査を拒否？ セキュリティ企業が単一モデル依存から脱却する理由
商用AIの安全機能が正規の攻撃解析を「悪意ある行為」と誤認して拒絶する問題が深刻化している。調査停止の危機に直面したセキュリティ各社が打ち出す、単一モデル依存から脱却するための現実解とは。
商用AIモデルが、正当なセキュリティ分析を悪意ある活動と誤認する事態が頻発していることは、サイバーセキュリティ業界全体で深刻化する課題を浮き彫りにしている。上流のAI安全ガードレールによって重要なセキュリティワークフローが滞るのを防ぐため、セキュリティベンダー各社は現在、製品の単一モデルへの依存を解消する動きを加速させている。
Hugging Faceが悪意あるAIエージェントによる攻撃を受けた際、インシデント対応担当者は1万7600件に及ぶ侵入ログの調査を独自のAI支援パイプラインで実行した。しかし、セキュリティチームが「Claude Opus」や「Fable」に攻撃コマンド、エクスプロイトペイロード、C2（コマンド＆コントロール）の痕跡の分析を求めたところ、モデル側はその多くを拒絶した。
「モデルの安全ガードレールは、エクスプロイトのリバースエンジニアリングを攻撃の実行と同列に扱った」とHugging Faceのエンジニアは公式ブログで説明している。そのため同社は、自社のインフラ上でオープンウェイトモデル「GLM-5.2」を経由するようパイプラインを迂回（うかい）させた。
Hugging Faceの事例は決して特殊なケースではない。商用大規模言語モデル（LLM）が安全基準の適合性（アライメント）を厳格化するにつれ、無害な脅威調査が悪意ある行為と判定され、セキュリティチームやソフトウェアベンダーの業務が停止する事態が生じている。安定したインシデント対応能力を維持するため、ベンダー各社はアーキテクチャの柔軟性を重視し、上流の拒否ゲートを回避するためのマルチモデルフレームワークや、自社運用（セルフホスト型）のオープンウェイトLLMの構築を進めている。
脅威検知企業ExtraHopのCEO、グレグ・クラーク氏は米TechTargetの取材に、「攻撃者は自らに有利に働くAIモデルなら何でも利用し、より優れたものが現れれば即座に乗り換える」と語る。「防御側にも同様の自由が必要だ。特定プロバイダーによる方針変更や機能制限に縛られるべきではない」（クラーク氏）
以下では、調査停止の危機に直面したセキュリティ各社が打ち出す、単一モデル依存から脱却するための現実解について解説する。
マルチモデルの柔軟性でAIの拒否ゲートを突破
商用AIベンダーが設けた予測困難なトラップ（トリップワイヤ）をすり抜けるため、セキュリティベンダーはマルチモデルアーキテクチャを採用している。これにより、モデルがクエリを拒否した場合でも、セキュリティ運用（SecOps）のワークフロー内でプロンプトを自動的に切り替えたり、別のモデルへ迂回（うかい）させたりできるようになる。
例えば、2026年7月に設立された「Agentic SOC Alliance」は、ExtraHopなどサイバーセキュリティベンダー15社で構成される連合体だ。同団体は、SOC（セキュリティ運用センター）のセキュリティテレメトリーやガバナンスを基盤となるAIモデルから分離するレファレンスアーキテクチャを提案している。モデルがリクエストの処理を拒絶した場合でも、実行レイヤーを容易に差し替えられる設計だ。
Informa TechTargetの調査部門Omdiaでアナリストを務めるアンドリュー・ブラウンバーグ氏は、「フロンティアモデル、小規模な専門モデル、決定論的な自動化の間を行き来できるワークフローがあれば、アクセス制限の変更や介入によって処理が中断された場合でも、ベンダー側により多くの選択肢がもたらされる」と話す。
ExtraHopのグローバルエンジニアリング担当バイスプレジデント、ポール・ジョルジ氏によると、同社の研究ラボで最近実施された検証は、マルチモデルの柔軟性が現場で求められる実情を示している。同氏のチームがWindowsのDNS脆弱（ぜいじゃく）性の悪用について調査するようAIエージェントに求めたところ、多くのモデルが回答を拒絶した。CVE番号を明示し、悪用されている痕跡について尋ねたことがガードレールに抵触したという。
「最終的にうまくいったのは、同様の調査を『本来接続するはずのないDNSサーバが通信を行っている』という観測可能なネットワーク挙動として定義し、構造化された段階的なタスクとして記述する方法だった」とジョルジ氏は振り返る。「この手法であれば大半のモデルで処理が完了したが、あるモデルはどう試みても拒否し続けた」
同氏が付け加えた教訓は、モデルごとにトリップワイヤや拒否ゲートが仕組まれている箇所が異なり、SOCのあらゆる役割を完璧にこなせる単一のモデルは存在しないことだ。
Palo Alto Networksの調査結果も、脆弱性検知を含む各種セキュリティ用途でマルチモデルのアプローチが必要であることを裏付けている。複雑な環境を対象としたテストで、単一のAIモデルで検知できた脆弱性は全体の40％にとどまり、主要モデル同士の検知結果の重複も驚くほど少なかった。同社は最近この知見を実用化し、「Unit 42 Continuous Frontier AI Defense」というサービスの提供を開始した。同サービスでは、Anthropicの「Claude Mythos」、OpenAIの「GPT-5.6-Cyber」、そして各種オープンウェイトモデルへクエリを分散して処理させている。
オープンウェイトモデルでサードパーティーのガードレールを回避
マルチモデルによるルーティングが運用の柔軟性を提供する一方で、オープンウェイトの基盤モデルを直接活用し、モデルの制御権をさらに強化するベンダーもある。これらのモデルは一般に公開されており、ユーザーがダウンロードして改変し、自社のインフラ上で実行できる。
ExtraHopとともにAgentic SOC AllianceのメンバーであるCrowdStrikeは最近、レッドチーム（攻撃側）とブルーチーム（防御側）の機能を相互補完的に備えたエージェント型ハーネスモデルシステム「SafeMind」を発表した。CrowdStrikeは、このシステムの基盤となる攻撃モデル「Red Tempest」と防御モデル「Blue Solano」を、NVIDIAのオープンウェイトモデル「Nemotron」をベースに独自構築し、自社のデータでトレーニングを実施した。
Omdiaのブラウンバーグ氏は「オープンウェイトモデルへの移行により、CrowdStrikeは自社ソリューションを完全に掌握できる。防御製品が依存する機能へのアクセスを、外部ベンダーによって制限されたり停止されたりする恐れがなくなる」と指摘する。
Omdiaによると、AIを活用したSecOpsツールの導入を検討する企業セキュリティ責任者にとって、ベンダーが採用する基盤モデル戦略は主要な評価基準になりつつある。単一の商用LLMに依存する製品は、上流のプロバイダーが安全ポリシーを変更したりサービス障害を起こしたりするたびに運用が混乱するリスクを抱えている。ベンダーがマルチモデルフレームワークと特化型のオープンウェイト運用の両立を図る中、今後のレジリエンスはAIの実行レイヤーをいかに流動的かつ柔軟に保てるかにかかっている。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社MatrixFlow] 「物流リソース最適化」ガイド：人員・配車・傭車を出庫依頼の確定前に決めきる -
製品資料
[株式会社キーエンス] なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは -
製品資料
[株式会社セールスフォース・ジャパン] 「CRMは設計と無関係」は本当か？ PLMとの融合で実現する高速開発 -
事例
[日本ヒューレット・パッカード合同会社] AIエージェントの時代にどう備える？ 「新たな働き手」を支える3要素とは -
製品資料
[日本ヒューレット・パッカード合同会社] “横並びの自動化”から脱却、AI活用で生産性と競争力を高める秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
2
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
3
次世代RPA「ハイパーオートメーション」が急成長か Gartnerが予測
-
4
昭和大学病院がeICUを導入、ICUの患者情報を遠隔地で一括管理
-
5
積水化学工業が「SAP S/4HANA Cloud」の“全グループ導入”に踏み切った訳
-
6
Windows XPにもパッチを提供 脆弱性「BlueKeep」はなぜ危険か
-
7
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
8
【漫画付き】ひとり情シス協会が明かす、RAG導入でしくじる企業「2つの共通点」
-
9
付属ツール「Windows ファイアウォール」の利点と限界
-
10
肥大化した「SFA」の沼 4カ月でBigQuery×AppSheetの新システムを構築した方法
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
3
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
4
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
5
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
6
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
7
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
9
“あのファイル転送”で暗躍するノーウェアランサム
-
10
「オンプレミス回帰」せざるを得ない“合理的な理由”
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー