2018年07月06日 05時00分 公開
特集/連載

AI技術の宿命か「機械学習を使ったセキュリティ製品」の弱点とは? (1/2)

セキュリティ対策に、機械学習をはじめとするAI技術を生かす動きが広がっている。ただしAI技術は万能ではなく、弱点もあることに注意が必要だ。

[Michael Heller,TechTarget]
画像

 機械学習をはじめとする人工知能(AI)技術に関心が集まる中、セキュリティ専門家はAI技術に何ができ、何を目的としてAI技術を使用すべきかを見極めようとしている。

 AI技術を取り巻くセキュリティベンダー間の競争が激化する中、悪意を持った攻撃者はAIエンジンを攻撃し、その有効性を低下させる方法を探っている。AI技術を使用して攻撃の一部を自動化する方法も見つけようとしている。

 セキュリティベンダーZeroFOXで主席データサイエンティストを務めるフィリップ・タリー氏は、セキュリティカンファレンス「RSA Conference 2018」で、セキュリティ対策にAI技術を利用するメリットと、その問題点を紹介。悪意を持った攻撃者がAI技術を使用して、サイバー攻撃を強化する手口も語った。

 本稿では、悪意を持った攻撃者がAI技術を使用して、効率良くサイバー攻撃を仕掛ける手口についてタリーに聞く。

従来型のセキュリティが依然として王座に

―― 過去1、2年と比べ、2018年はAI技術を使って実際にできることについて、現実的な予測を迫られている印象があります。

タリー氏 それは成熟の過程で起こることだ。AI技術、もっと厳密に言うと機械学習やデータ駆動型分析は、限られた用途で非常に大きな効果を発揮する技術の一つにすぎない。どんな穴でもふさぐ技術ではないのは確かだ。

 問題や分野によっては、シグネチャベースの従来型セキュリティ対策が、依然として王座に君臨している。脅威を検出し、阻止する取り組みとしては、こうした比較的簡単な検出手段の効果は依然として高く、理解しやすい。

―― モノのインターネット(IoT)の普及により、生成されるデータ量が飛躍的に増加することは確実です。企業はデータサイエンティストやAI技術への取り組みの必要性について、どのように判断すればよいでしょうか。

タリー氏 IoTデバイスは日常のあらゆることを記録する。いずれは「新しいパンや牛乳が必要になりそうだ」「ビールがなくなりそうだ」といったことを、冷蔵庫が把握するレベルにまで達することになるだろう。現時点では表面に現れていないあらゆる個人情報が、何らかの形でデジタルデータとして表されるようになる。そうなると攻撃は、より個人指向になっていく。

 機械学習を使用するタイミングと理由については、頻繁に自問自答する必要があるだろう。機械学習の取り組みは投資だ。低コストでデータサイエンスを利用することは難しい。データサイエンティストが使うツールも安くはない。十分に精選された価値あるデータを集めるプロセスにも、それなりのコストがかかる。

 サンプルとなるデータを用意し、悪質か安全かといったラベル付けをするプロセスには、極めて時間を要する。多くの労力がかかり、該当分野の専門知識が求められることもある。

 セキュリティに関するデータの整理を外部委託することは、必ずしも容易ではない。そこにはプライバシーも関わる。顧客に帰属するデータの管理を外部委託するとしよう。それが顧客にとって機密情報になる場合、その管理を外部委託して顧客は満足するだろうか。こうしたデータの管理を外部委託したり、第三者にラベル付けをさせたりしてはならないという法的制約はないだろうか。

 データサイエンス責任者は基本的に、できるだけデータ管理の外部委託を避けようとする。時間もコストもかかるからだ。

AIエンジンの“穴”を見つけるためのテスト

―― AIエンジンをトレーニングする際、企業は何に注目する必要があるでしょうか。

タリー氏 2つの側面がある。脅威ではないのに脅威だと認識して検知してしまう「過検知」と、脅威なのに検知できない「検知漏れ」だ。

       1|2 次のページへ

この記事を読んだ人にお薦めの関連記事

注目テーマ

ITmedia マーケティング新着記事

news057.jpg

パナソニックが早稲田大学恩藏ゼミと協働でマーケティングプロジェクトを立ち上げ
パナソニックは、早稲田大学商学部 恩藏直人教授のゼミと協働で、マーケティングプロジェ...

news048.jpg

ぴあデジタルコミュニケーションズ、レシート換金アプリ「ONE」のワンファイナンシャルと協業
ぴあデジタルコミュニケーションズは、ワンファイナンシャルと協業すると発表した。

news018.jpg

「環境ブランド調査2018」サントリーが2年連続首位――日経BP社調べ
日経BP社は、「環境ブランド調査2018」の結果を発表しました。