人とAIの「速度の非対称性」
「Claude Mythos」が攻撃を自動化? 企業が直面する“致命的なスピード格差”
最先端のAIモデルは、攻撃者に人間離れしたサイバー攻撃能力を与えてしまう。従来のセキュリティ対策では、この圧倒的な速度差に太刀打ちできない。企業が今すぐ変えるべきセキュリティの常識とは何か。
Anthropicの「Claude Mythos」をはじめとする最先端AIモデル(フロンティアAI)は、システムに潜む脆弱(ぜいじゃく)性の発見から攻撃への悪用までに必要な時間や技術的ハードルを大幅に下げ、攻撃規模を拡大させる。これによって、サイバーセキュリティの前提条件を根本から覆しつつある。たとえ高度な技術を持たない単独の攻撃者であっても、事前の調査の自動化、エクスプロイト(攻撃用プログラム)の生成、ソースコードの解析、設定ミスを突く攻撃用プログラムの作成、情報詐取を狙う詐欺手口を瞬時に変化させることを、人には不可能なコンピュータの処理速度(マシンスピード)で実行できるようになった。
CISO(最高情報セキュリティ責任者)が立ち向かうべき課題は、もはや単なる「AIツール導入に伴うリスク」にとどまらない。従来の防御サイクルを上回る速度で攻撃を繰り返す、AI技術によって能力を増強した攻撃者の台頭こそが真の脅威だ。
このように状況が変化する中、企業は人の専門知識とAI技術を活用した防御策を組み合わせなければならない。フロンティアAIがもたらすリスクや脅威に対処するには、セキュリティを定期的な取り組みではなく、状況に合わせて常に進化し続ける仕組みとして捉えることが不可欠だ。CISOは、フロンティアAIの悪用を防ぐだけでなく、これらの技術を戦略的に活用して企業全体のセキュリティ体制を強化するために、新たなポリシー、運用手順、ガバナンス体制を構築する必要がある。CISOがフロンティアAIに伴う新たなリスクを管理、軽減するために、どのように変革すべきかを見ていこう。
“無敵の攻撃者”を生み出すフロンティアAI
CISOは、従来の監視型から、自社のシステムがサイバー攻撃の脅威にさらされているリスクを常時特定して対処する管理体制へとかじを切る必要がある。AIツールが企業の攻撃対象領域(アタックサーフェス)を絶え間なく分析できる現代、企業にとって基本リズムとなっている四半期ごとのセキュリティ評価では遅過ぎる。セキュリティチームは、継続的な資産の把握、外部のアタックサーフェス管理、設定検証の自動化、AIモデルの特性に合わせた迅速なパッチ適用作業の自動化を優先しなければならない。重要なのは、全てを疑って検証する「ゼロトラスト」に基づくネットワークの細分化、必要最小限の権限のみを付与する最小権限アクセス、短寿命の認証情報の利用、強固なアイデンティティー管理を通じて、避けられない侵害が発生した際に被害範囲を最小限に抑え込むことだ。「AIツールに弱点を見つけられたら、それは極めて高い確率で攻撃に悪用される」という前提に立つべきだ。
この仕組みを機能させるには、AI技術に特化した脅威モデリングをソフトウェア開発の一連の工程(SDLC)やシステム設計に組み込む必要がある。開発には、本番環境に導入する前に、AIツールを活用したコードレビュー、機密情報のスキャン、依存関係のリスク分析とポリシー検証を組み込むべきだ。企業は、AI関連システムの中でも特にリスクの高い構成要素を守ることに注力しなければならない。具体的にはAPI、プラグイン、AIエージェント、MCP(Model Context Protocol)による連携、AIツールと接続されたワークフローなどが該当し、アタックサーフェスを大幅に広げる要因になる。異常な自動化パターンや自律的な調査行動、マシンスピードで繰り広げられる社内ネットワークでの感染拡大(ラテラルムーブメント)を検出するために、振る舞い分析を導入する必要がある。
CISOは、AIツールのアタックサーフェスに対するガバナンスの確立と堅牢(けんろう)性の確保が、罰則を回避するための“お役所的な監査チェックリスト”を埋める作業ではなく、極めて重要な戦略的要件であることを認識しなければならない。セキュリティポリシーによって、フロンティアAIの利用、従業員が個人的に利用するシャドーAI(無許可のAIツール利用)、プロンプトの使用状況の分析、外部AIツールとの連携、AIエージェントの権限を適切に管理する必要がある。脆弱性の発見に向けて、CISOは設計や開発の初期段階に前倒ししてセキュリティを確保する「シフトレフト」戦略を採用し、攻撃者が悪用する恐れのあるアタックサーフェスを洗い出すために、攻撃者と同等の性能を備えたAI駆動型ツールを活用することが重要だ。
同時に、企業はAI技術を悪用したセキュリティ侵害に備えて運用面での準備を進めるべきだ。具体的には、関係者が集まって対処手順を確認する机上演習、AI技術を悪用して自社を攻撃する敵役を演じる専門チーム(レッドチーム)による模擬攻撃シミュレーション、取引先などの供給網を経由した侵害シナリオの策定、攻撃者が侵入中に状況に応じて動的に手法を変えることを想定したインシデント対処計画を実施するとよい。意識を根本的に変える鍵は、フロンティアAIがサイバー攻撃とその防御における速度と規模において、防御側が圧倒的に不利となる非対称性を一変させる「起爆剤」だと認識することだ。
脆弱性が発見されてから攻撃に悪用されるまでの猶予期間は短くなっている。CISOは、パッチ適用や事後処理の手順を見直す必要性を理解し、重大な脆弱性が公開されてから24時間以内に攻撃用プログラムが作成されると想定しなければならない。攻撃者が事前の調査、攻撃準備、実際の攻撃をマシンスピードで自動化できる以上、時間のかかるパッチ適用サイクル、手作業による優先順位付け、定期的なセキュリティレビューに頼る手法は通用しない。あらかじめ状況変化に合わせて用意された実践的なシナリオ集(プレイブック)、AI技術を活用した優先順位付け、被害を迅速に食い止めることができる強靭なシステム設計を備えた、即応型のセキュリティモデルが求められる。実務においてCISOは、ひとたび弱点が露呈すれば、従来の防御体制が機能する前に、AIを駆使した攻撃者がそれを瞬時に突いてくると想定しなければならない。
私たちは今、API、システムインフラ、ワークフロー、企業のデータと相互に作用する自律的な「AIエージェント」を活用したAIツールの進化を目の当たりにしている。CISOは、このAIエージェントのように状況に応じて動くプログラムに合わせて、強い権限を持つ特権アクセスの管理モデルを再構築しなければならない。企業には、フロンティアAIにアクセスするAIエージェントの特性に合わせ、権限の範囲を厳しく制限し、正当性を識別し、有効期限を設けたアクセスモデルが必要となる。これは、AIエージェントにゼロトラストの原則を適用することを意味する。AIエージェントの行動を常に検証し、通常とは異なる振る舞いを監視し、アクセスできるデータ、システム、業務を詳細に制御するということだ。
フロンティアAIとAIエージェントが登場したことで、特権アクセス管理の目的は、もはや人の管理者を保護することだけではなくなった。大規模かつ超高速で動作する、自律的なプログラム群を統制することこそが重要なのだ。
今まさに求められるものは「CISOの意識改革」
経営層レベルの意思決定を担うCISOが、実務において持つべき思考は明確だ。過去の経験に基づく攻撃者への対策を捨て、フロンティアAIが可能にする未知の攻撃者を想定した備えを始めることだ。その攻撃者は、セキュリティ業界がこれまで直面した攻撃に比べ、かつてないほど素早く、文脈を巧みに把握し、執拗(しつよう)で、容易に規模を拡大してくる可能性がある。AI技術が広げたアタックサーフェスをいち早く管理できるようになったCISOが、フロンティアAIの時代における企業セキュリティを牽引(けんいん)することになる。今回の変化を、既存の枠組みの単なるマイナーアップデートと捉える者は、自社の防御力と脅威との間に、いつの間にか埋めることが極めて困難な格差が生じている現実に直面するだろう。CISOは、いかなる防衛戦略を構築するよりも前に、防御側が圧倒的に不利となるこの「速度の非対称性」を理解しなければならない。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社ビザスク] 製造業の新事業創出 成功の鍵は「タラレバ問題克服」と「3つの判断ポイント」 -
製品資料
[日本シーゲイト株式会社] 実験のやり直しを防止 研究データ基盤に求められる高可用性ストレージとは -
製品資料
[株式会社Leaner Technologies] もっと安く買えるのに…… 間接材購買で“コスト削減機会”を逃さないためには -
製品資料
[株式会社セールスフォース・ジャパン] フィールドサービスの熟練技術者が「AIエージェント」を求めている理由 -
製品資料
[株式会社グリーンフィールド・オーバーシーズ・アシスタンス] 基礎から分かる「就労ビザ」 アメリカ進出を目指すなら知っておきたい取得戦略
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
仮想化環境の死角を“未知の脅威”が狙う時代――新たな敵をどう見破るか?
-
2
「Salesforceのテスト自動化ツール」に関するアンケート
-
3
年収700万超エンジニアに共通するスキルと「もっと勉強すべきだった分野」
-
4
ITエンジニア1265人調査 生成AIを使い込むほど「人の確認」が重い理由
-
5
高額GPUを買っても成果ゼロ? 「プライベートAI」の落とし穴
-
6
「企業におけるAI導入検討度とIT投資優先度」に関するアンケート
-
7
障害対応の属人化を打破 ネットワークを一括制御して復旧を速める秘策
-
8
AppleのMシリーズチップからSafariの閲覧履歴を暴く「TIDE」攻撃とは?
-
9
kintoneで実践 製造業のための「見積もり管理」改善のヒント
-
10
優れた技術があっても成長できない 中堅製造業が「成長停滞」から抜け出すには
ホワイトペーパーランキング PR
-
1
登録セキスぺが語る「SCS評価制度」の舞台裏 星を取得すべき理由と対応のコツ
-
2
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
3
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは?
-
4
「人員を増やす」という選択肢はない 情シスが負の連鎖から抜け出すには?
-
5
「問題が深刻化しやすいプロジェクト管理」から脱却する方法とは?
-
6
AI時代の組織設計:「判断と責任」を人に残すための2つの原則とは?
-
7
防御側の「3つの前提」が崩壊 AI時代のセキュリティに必要な3つの転換とは?
-
8
AI活用を停滞させる「2:6:2の壁」を乗り越えるためのポイントとは?
-
9
生成AIで文書活用を進めるには? 効率化と安全性をどう両立する
-
10
OSSでは困難 100超のサービスを持つマネーフォワードが実践した統合監視術
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー