攻撃と防御のAI格差に専門家が警鐘
「攻撃側にナイフ、防御側にパン」 OpenAIの10億ドル支援に潜む危うさ
OpenAIが防衛支援へ10億ドルを約束した同日、脆弱性を自律攻撃するAI「Astra」を公開した。攻撃能力ばかりが加速し防御側が置き去りにされる中、現場の情シスやインフラを守る手だてはあるのか。
OpenAIは、サイバー防御能力の全体的な底上げを呼び掛けた数日後、最前線の防御担当者を支援するために10億ドルの資金拠出を誓約した。だがこの誓約は、同社初となるサイバーセキュリティ上の「重大」基準に達したモデル「Astra」のリリースと同日に行われた。「重大」基準とは、保護が行き届いた環境でもモデルが自律的に脆弱性を発見して悪用できる能力を意味する。
業界の専門家は、有言実行を果たしたOpenAIの資金拠出を評価している。一方で、攻撃側と防御側へのAI投資の間に深刻な不均衡があるとみて同社に苦言を呈している。
セキュリティカンファレンス「Black Hat」のシニアネットワーク運用リードで、Coalfireの防御サービス担当バイスプレジデントを務めるニール・ワイラー氏（通称『Grifter』）は次のように指摘する。「攻撃は最先端の速度で進化しているのに、防御には補助金が出るだけだ。決して難癖をつけたいわけではない。取り組み自体は評価している。より多くの防御側が最先端モデルを利用できるようになるのは素晴らしいことだ。しかし提供されているのは、侵入を防ぐことよりも侵入することに長けるよう訓練されたツールなのだ」
Informa TechTargetの調査部門Omdiaでアナリストを務めるリック・ターナー氏は、世界規模でサイバーセキュリティを向上させる取り組みには本質的な価値があると補足する。ただし同氏は、OpenAIがサイバー防御の強化を呼びかけた動機にはもっともな疑問があると指摘する。この呼び掛けは、OpenAI自身のエージェントが暴走して他の組織をハッキングした悪名高いHugging Faceのインシデント直後に行われたからだ。
「皮肉屋なら、OpenAI自身が世間の注目を集めた攻撃に関与した直後なので、自己保身の要素があると指摘するだろう」とターナー氏は話す。「さらにうがった見方をすれば、OpenAIはAnthropicと同様に新規株式公開（IPO）前の企業だ。そのため世間の注目を集め続け、自社技術の能力の高さを示す話題は将来の株価を押し上げる好材料になり得る」
AIサイバーセキュリティの専門家でSuzu Labsの創業者兼CEOを務めるマイク・ベル氏は、一連のタイムラインがOpenAIの意思決定の実態を浮き彫りにしていると語る。
「OpenAIはHugging Faceでの事態を受けても、Astraのリリースを停止しなかった」とベル氏は語る。「それどころか、防御支援を発表した同じ週に、そして地方の公益事業を保護すると誓約したのと同じ日に、最も強力な攻撃向けモデルをリリースした。どのプレスリリースよりもその行動が優先順位を物語っている」
「Daybreak for Frontline Defenders」が提供するもの
OpenAIによる最前線の防御担当者への10億ドルの支援策には、最先端モデルへのアクセス補助、トレーニング、技術サポート、パートナーシップなどが含まれる。広範な構想「Daybreak for Frontline Defenders」の一部である「Daybreak for America」の下でOpenAIは重要インフラ事業者の支援を優先すると表明した。対象には水道施設、送配電事業者、地方銀行、州政府および地方自治体などが含まれる。
「注力する対象としては申し分ない」とワイラー氏は話す。「対象となる組織は実質的に人手がない状態だ。予算もなく、専任のセキュリティ担当者がいない場合が多い。ごく少人数のチームで旧型システムを運用しているのだ」
この取り組みには、全米各州の情報共有・分析センター「MS-ISAC」（Multi-State Information Sharing and Analysis Center）との連携が含まれる。重要インフラ事業者のパイロットグループで、モデルへのアクセス権とともにトレーニングと現場での支援をセットで提供する。ワイラー氏とベル氏は、実務担当者に対する実践的な支援こそがプロジェクトの成否を分けると強調した。
「小規模な水道事業者や郡の保健局がDaybreakのアクセス権を得たとしても、モデルが提示した内容を解釈し、重要な問題に優先順位をつけ、他のシステムを壊さずに修正を実行できる人材はいない」とベル氏は指摘する。「モデルの利用クレジットだけを提供しても、使いこなす能力がない相手に道具を渡したにすぎない。現場に派遣されるエンジニアや企業のセキュリティ専門家を利用クレジットと組み合わせることで初めて真の変化がもたらされる」
OpenAIは、MS-ISACと協力してパイロットグループを支援すると表明した。発見事項の検証や優先順位付け、修復作業の調整を支援し、継続的に展開可能な手法を確立していくという。
OpenAIは声明で次のように述べている。「当社の目標は、米国の市民が依存しているサービスを保護できるモデルを構築することだ。パートナーと協力し、世界中の最前線の防御担当者の手に最先端のサイバーセキュリティ技術を届ける手助けをしたい」
提供されないものと残る課題
セキュリティカンファレンス「Black Hat USA」の直前、OpenAIのエンジニアはBlack Hatの審査委員を務めるワイラー氏と面会した。Hugging Faceのインシデントについての講演内容を同氏に説明するためだ。ワイラー氏によると、エンジニアらは2027年初頭までにAIエージェント同士のサイバー攻撃の応酬が起きると予測していると語ったという。
「私は彼らに伝えた。『自社のエージェントでナイフの使い方だけでなく、刃の研ぎ方や刃渡りを伸ばす方法まで教えたようなものだ。自社のエージェントにはナイフを渡し、防御担当者にはフランスパンを渡しているようなものだ』と」（ワイラー氏）
ワイラー氏はTechTarget Cybersecurityの取材に、OpenAIが攻撃タスクでどの程度の割合のトレーニングリソースを防御タスクに充てているのか内訳を知りたいと語った。
「こうした研究所が公に競い合っているベンチマークやレポートは、ことごとく攻撃についてのものだ」と同氏は付け加えた。「いまや防御が優先事項であるならば、それは測定可能であるべきだ。彼ら自身もそれを測定する姿勢を示す必要がある」
さらにワイラー氏は、火には火で対抗できるよう、より多くの防御担当者が最先端モデルにアクセスできる必要があると述べた。とりわけ、OpenAIのサイバーセキュリティプログラムであるDaybreakの承認済みメンバーでさえ、現時点ではAstraへのアクセスが認められていない。
「現状、サイバープログラムへの参加申請を提出しても、膨大な時間がかかるか全く返答がないかのどちらかだ。正当なサイバー専門家が拒絶されている」とワイラー氏は語る。「利用許可を得るための条件を透明化してほしい。AIによるサイバー防御の構築を助けるツールが一部の特権層だけに制限され、『選ばれし者』しか使えないのであれば、防御側はお手上げだ」
OpenAIは声明で、今後数週間でアクセス権を拡大し、制限を緩和したセーフガードを順次導入する計画だと表明した。
「これにより、脆弱性や概念実証（PoC）の検証、マルウェア解析、検知エンジニアリングなど、より多くの防御ワークフローが可能になる」（同社）
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
インシデント発生後に最も重要な「最初の48時間」 どう乗り切る？ -
製品資料
急激なデジタル化の裏で増大するデバイスのリスク 東急建設はどう対処した？ -
製品資料
「フロンティアAI」実践解説：セキュリティ対応に向けた5つのステップ -
製品資料
WSUS非推奨化でさらに混迷 複雑化するサーバ環境の運用負荷をどう解消する？ -
市場調査・トレンド
数百万台規模のデータで判明、企業のIT環境に潜む「見えない課題」とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
2
ISMSの“コンサル丸投げ”が招く数千万円の無駄 NTTドコモビジネスの脱出劇
-
3
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
4
AIインフラの理想形？ 「5層のケーキ」を垂直統合するための近道とは
-
5
IBM iのブラックボックス化を打破 資産継承と進化を実現する「IBM Bob」の実力
-
6
VMware離れを食い止めるか？ 今「VCF 9.1」が再評価される理由
-
7
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
8
「即戦力」は幻想？ 中途の3割が消えるAI時代のエンジニア生存戦略
-
9
同じ攻撃で明暗 CISAの侵入テストで見えた「機能するSOC」3つの鉄則
-
10
「技術屋」で終わらないために 情シスが今取るべき認定資格5選
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
4
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
「結局、一部の人しか使わない」 AI活用が業務に定着しない根本的な理由
-
8
AIエージェントで成果は出る？ 調査結果に見る費用対効果の実態
-
9
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
10
ゼロトラストにおける「IDaaSの課題」と補完すべき重要機能とは？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー