15時間で侵入？　機械学習のマルウェア検出システムに浮上した“不都合な真実”（1/2 ページ）

マルウェアの検出では、既知の特徴をスキャンするシステムよりも、機械学習の方が優れている。だが「Black Hat 2015」で発表した研究者によると、ある仕組みによって性能の差はさらに広がるという。

公開 2015年08月19日 15時00分

著者

Robert Richardson

[TechTarget]

印刷する

国内企業における、アプリケーション／通信機能別に見たマルウェアの攻撃経路（出典：Palo Alto Networks「アプリケーションの使用および脅威分析レポート」2014年5月版）《クリックで拡大》

　セキュリティ製品に機械学習機能を搭載しておきながら、設置場所ごとに固有のトレーニングデータを使って個々の違いに対応していないベンダーは、セキュリティエコシステムの一層の強化を図る機会を逸している――。2015年8月に米国ラスベガスで開かれた「Black Hat USA 2015」のセッションで、米軍需メーカーNorthrop Grummanの子会社の研究者2人がそう指摘した。

　機械学習を専門とするボブ・クライン氏は、Northropの子会社Acuity Solutionsの製品「BluVector Cyber Intelligence Platform」に取り組んでおり、その概念を「動く防御」と表現する。同氏によると、例えば鍵屋が1つの村の中であらゆる場所に同じ錠を売り付けた場合、極めて手薄な防犯対策しか達成されない。泥棒がその錠の1つを入手して、好きなだけ時間をかけて開錠の方法を習得すれば、後は村中の家から何でも盗み放題になる。

併せて読みたいお薦め記事

機械学習に関する記事

マルウェアの最新動向に関する記事

　たとえ機械学習システムであっても、同じデータを使ってシステムのトレーニングを行ったのでは、結果的にはどこに設置されても同じ機能しか果たさない「錠」のような状態になる――。クライン氏と、共同発表者でBluVectorのエンジニア、ライアン・ピーターズ氏はそう指摘した。

　「現実には、定義ファイルベースの製品から引き継がれた機械学習システムに対して、攻撃者には2つ有利な点がある。第1に、そのソフトウェアのコピーを入手して以降も、モデルは変わっていないとほぼ確信できる。第2に、標的は全て同じモデルを使っているので、そのうちの1つを破れば、全てのコピーを破ることができる」。クライン氏はそう話す。

　「だが状況は大きく変わった。いわば街に新しい鍵屋が現れる。この業者は『機械学習』と呼ぶ極めて頑丈な新型の錠を提供する。それは古い錠よりずっと優れている。はるかに頑丈で、ピッキングにも強い。ところがこの鍵屋も、同じ錠ばかり売っている」

　両氏は異なるデータセット使った機械学習のセキュリティモデルの実験を行い、その効果を検証した。実験では、通常であれば簡単に検出できるマルウェアサンプルの配列を並べ替えるベースラインテストを実施。それぞれの配列について、機械学習のセキュリティシステムをすり抜けられるかどうかをテストした。このプロセスを繰り返し、15時間後の1900回目で、セキュリティシステムをすり抜ける配列ができた。

　この時点で、同方法の中心となる疑問が浮上した。同モデルの設置場所ごとに少しずつバリエーションを持たせて、一部の設置場所で一部の配列を検出させることはできるのか（そうなれば他は見逃すことになるはずだ）。

　このバリエーションは、理論的にはベンダーまたは他の何らかの仕組みによって導入できる。だが両氏が興味を持ったのは、システムの設置場所のデータを使う方法だった。両氏はこれを「in situ」（現場）学習と命名。「『in situ』のアプローチが特別なのは、鍵の異なる錠を購入できるようにするのではなく、いわば誰もが鍵屋になれる点にある」とクライン氏は言う。

　しかも、ローカルデータ（現場限定の情報）を加味すれば検出機能が向上する可能性もある。場合によっては、例えば機械学習モデルを最初に開発する時点でベンダーが使うデータセットには本質的に含められない機密文書などの場合も、全く新しい分野の検出機能が追加できる。クライン、ピーターズ両氏のテストでは、配列を並べ替えたモデルの検出率は大幅に向上した。

　具体的には、少しずつ異なる4種類のデータセットをトレーニングに利用すると、機械学習セキュリティツールを迂回できる能力が実証されている攻撃ファイルの難読化版が、トレーニング方法の異なる4モデル中の3モデルで検出された。4モデルのうち1モデルで攻撃を検出できなかったのは事実だが、このシステムは「動く防御」のアプローチも採用していなかった。

次ページへ聴衆の反応は