AI技術の宿命か

「機械学習を使ったセキュリティ製品」の弱点とは？（1/2 ページ）

セキュリティ対策に、機械学習をはじめとするAI技術を生かす動きが広がっている。ただしAI技術は万能ではなく、弱点もあることに注意が必要だ。

　機械学習をはじめとする人工知能（AI）技術に関心が集まる中、セキュリティ専門家はAI技術に何ができ、何を目的としてAI技術を使用すべきかを見極めようとしている。

　AI技術を取り巻くセキュリティベンダー間の競争が激化する中、悪意を持った攻撃者はAIエンジンを攻撃し、その有効性を低下させる方法を探っている。AI技術を使用して攻撃の一部を自動化する方法も見つけようとしている。

　セキュリティベンダーZeroFOXで主席データサイエンティストを務めるフィリップ・タリー氏は、セキュリティカンファレンス「RSA Conference 2018」で、セキュリティ対策にAI技術を利用するメリットと、その問題点を紹介。悪意を持った攻撃者がAI技術を使用して、サイバー攻撃を強化する手口も語った。

　本稿では、悪意を持った攻撃者がAI技術を使用して、効率良くサイバー攻撃を仕掛ける手口についてタリーに聞く。

従来型のセキュリティが依然として王座に

――　過去1、2年と比べ、2018年はAI技術を使って実際にできることについて、現実的な予測を迫られている印象があります。

タリー氏　それは成熟の過程で起こることだ。AI技術、もっと厳密に言うと機械学習やデータ駆動型分析は、限られた用途で非常に大きな効果を発揮する技術の一つにすぎない。どんな穴でもふさぐ技術ではないのは確かだ。

　問題や分野によっては、シグネチャベースの従来型セキュリティ対策が、依然として王座に君臨している。脅威を検出し、阻止する取り組みとしては、こうした比較的簡単な検出手段の効果は依然として高く、理解しやすい。

――　モノのインターネット（IoT）の普及により、生成されるデータ量が飛躍的に増加することは確実です。企業はデータサイエンティストやAI技術への取り組みの必要性について、どのように判断すればよいでしょうか。

タリー氏　IoTデバイスは日常のあらゆることを記録する。いずれは「新しいパンや牛乳が必要になりそうだ」「ビールがなくなりそうだ」といったことを、冷蔵庫が把握するレベルにまで達することになるだろう。現時点では表面に現れていないあらゆる個人情報が、何らかの形でデジタルデータとして表されるようになる。そうなると攻撃は、より個人指向になっていく。

　機械学習を使用するタイミングと理由については、頻繁に自問自答する必要があるだろう。機械学習の取り組みは投資だ。低コストでデータサイエンスを利用することは難しい。データサイエンティストが使うツールも安くはない。十分に精選された価値あるデータを集めるプロセスにも、それなりのコストがかかる。

　サンプルとなるデータを用意し、悪質か安全かといったラベル付けをするプロセスには、極めて時間を要する。多くの労力がかかり、該当分野の専門知識が求められることもある。

　セキュリティに関するデータの整理を外部委託することは、必ずしも容易ではない。そこにはプライバシーも関わる。顧客に帰属するデータの管理を外部委託するとしよう。それが顧客にとって機密情報になる場合、その管理を外部委託して顧客は満足するだろうか。こうしたデータの管理を外部委託したり、第三者にラベル付けをさせたりしてはならないという法的制約はないだろうか。

　データサイエンス責任者は基本的に、できるだけデータ管理の外部委託を避けようとする。時間もコストもかかるからだ。

AIエンジンの“穴”を見つけるためのテスト

――　AIエンジンをトレーニングする際、企業は何に注目する必要があるでしょうか。

タリー氏　2つの側面がある。脅威ではないのに脅威だと認識して検知してしまう「過検知」と、脅威なのに検知できない「検知漏れ」だ。

この記事の著者

関連記事

• 

  「AI活用型セキュリティ製品」のメリットと未来　企業が見極めるべきポイントとは

• 

  「RPA」と「AI」のセキュリティ対策に違いはあるか？

新着ホワイトペーパー PR

• 製品資料
  [株式会社フィックスターズ] 組み込み開発特有の課題も解消できる「AI活用」の秘訣とは？
• 事例
  [株式会社ビザスク] 「新規事業」事例集：大手企業はどのように想定顧客ヒアリングを行っているのか
• 市場調査・トレンド
  [株式会社ビザスク] 質の高い「仮説検証インタビュー」を実施するためのポイント
• 事例
  [株式会社ビザスク] 富士フイルムの新領域参入に学ぶ事業創出　「畑違い」でもビジネス化できる方法
• 事例
  [株式会社ビザスク] 三菱電機 上席執行役員に学ぶ、未来を切り開く「新事業創出」の実践方法