「Black Hat USA 2015」で報告
15時間で侵入？ 機械学習のマルウェア検出システムに浮上した“不都合な真実”（1/2 ページ）
マルウェアの検出では、既知の特徴をスキャンするシステムよりも、機械学習の方が優れている。だが「Black Hat 2015」で発表した研究者によると、ある仕組みによって性能の差はさらに広がるという。
国内企業における、アプリケーション／通信機能別に見たマルウェアの攻撃経路（出典：Palo Alto Networks「アプリケーションの使用および脅威分析レポート」2014年5月版）《クリックで拡大》
セキュリティ製品に機械学習機能を搭載しておきながら、設置場所ごとに固有のトレーニングデータを使って個々の違いに対応していないベンダーは、セキュリティエコシステムの一層の強化を図る機会を逸している――。2015年8月に米国ラスベガスで開かれた「Black Hat USA 2015」のセッションで、米軍需メーカーNorthrop Grummanの子会社の研究者2人がそう指摘した。
機械学習を専門とするボブ・クライン氏は、Northropの子会社Acuity Solutionsの製品「BluVector Cyber Intelligence Platform」に取り組んでおり、その概念を「動く防御」と表現する。同氏によると、例えば鍵屋が1つの村の中であらゆる場所に同じ錠を売り付けた場合、極めて手薄な防犯対策しか達成されない。泥棒がその錠の1つを入手して、好きなだけ時間をかけて開錠の方法を習得すれば、後は村中の家から何でも盗み放題になる。
たとえ機械学習システムであっても、同じデータを使ってシステムのトレーニングを行ったのでは、結果的にはどこに設置されても同じ機能しか果たさない「錠」のような状態になる――。クライン氏と、共同発表者でBluVectorのエンジニア、ライアン・ピーターズ氏はそう指摘した。
「現実には、定義ファイルベースの製品から引き継がれた機械学習システムに対して、攻撃者には2つ有利な点がある。第1に、そのソフトウェアのコピーを入手して以降も、モデルは変わっていないとほぼ確信できる。第2に、標的は全て同じモデルを使っているので、そのうちの1つを破れば、全てのコピーを破ることができる」。クライン氏はそう話す。
「だが状況は大きく変わった。いわば街に新しい鍵屋が現れる。この業者は『機械学習』と呼ぶ極めて頑丈な新型の錠を提供する。それは古い錠よりずっと優れている。はるかに頑丈で、ピッキングにも強い。ところがこの鍵屋も、同じ錠ばかり売っている」
両氏は異なるデータセット使った機械学習のセキュリティモデルの実験を行い、その効果を検証した。実験では、通常であれば簡単に検出できるマルウェアサンプルの配列を並べ替えるベースラインテストを実施。それぞれの配列について、機械学習のセキュリティシステムをすり抜けられるかどうかをテストした。このプロセスを繰り返し、15時間後の1900回目で、セキュリティシステムをすり抜ける配列ができた。
この時点で、同方法の中心となる疑問が浮上した。同モデルの設置場所ごとに少しずつバリエーションを持たせて、一部の設置場所で一部の配列を検出させることはできるのか（そうなれば他は見逃すことになるはずだ）。
このバリエーションは、理論的にはベンダーまたは他の何らかの仕組みによって導入できる。だが両氏が興味を持ったのは、システムの設置場所のデータを使う方法だった。両氏はこれを「in situ」（現場）学習と命名。「『in situ』のアプローチが特別なのは、鍵の異なる錠を購入できるようにするのではなく、いわば誰もが鍵屋になれる点にある」とクライン氏は言う。
しかも、ローカルデータ（現場限定の情報）を加味すれば検出機能が向上する可能性もある。場合によっては、例えば機械学習モデルを最初に開発する時点でベンダーが使うデータセットには本質的に含められない機密文書などの場合も、全く新しい分野の検出機能が追加できる。クライン、ピーターズ両氏のテストでは、配列を並べ替えたモデルの検出率は大幅に向上した。
具体的には、少しずつ異なる4種類のデータセットをトレーニングに利用すると、機械学習セキュリティツールを迂回できる能力が実証されている攻撃ファイルの難読化版が、トレーニング方法の異なる4モデル中の3モデルで検出された。4モデルのうち1モデルで攻撃を検出できなかったのは事実だが、このシステムは「動く防御」のアプローチも採用していなかった。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[アトラシアン株式会社] IT運用や従業員サポートは生成AIでどう変わる？ 使い方や導入の流れは？ -
製品資料
[株式会社みらい翻訳] 音声翻訳活用の課題を解決、“本当に使える”ツールの特徴とは？ -
製品レビュー
[Wrike Japan 株式会社] 400店舗を支えるWalmart Canada、散在する情報やアナログな管理をどう変えた？ -
事例
[Wrike Japan 株式会社] 年間100件超のDXプロジェクトを統合管理、JERAはどのように実現した？ -
事例
[Wrike Japan 株式会社] グローバルなクリエイティブ業務を合理化、エスティーローダーに学ぶ実践のコツ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
全社標準Copilotに絶望？ MS Copilotで問い合わせ6割減できた企業は何が違った
-
2
身代金支払いは逆効果 情シスのためのランサムウェア対策ガイド2026
-
3
自社を守る「SCS評価制度」活用法 7割の企業が取引先起点の情報漏えいに直面
-
4
ランサムウェア、暗号化の89％は深夜 情シスが備える「夜間の空白」対策
-
5
多要素認証導入済みでもランサムウェア被害に 復旧費用は平均2億7000万円
-
6
「技術屋」で終わるか、部長へ昇格するか 今取りたい「IT×ビジネスの認定資格」5選
-
7
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
8
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
9
「AI活用を前提とした業務PCへの移行」に関するアンケート
-
10
AIエージェントを暴走させない設定、済んでますか？ 対策5選を専門家が紹介
ホワイトペーパーランキング PR
-
1
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
2
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
3
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
4
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
5
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
6
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
7
「スクラム」と「カンバン」の違いとは？ アジャイル型開発手法を徹底比較
-
8
AI時代に成功するための「ナレッジマネジメント」ベストプラクティス
-
9
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
10
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー