AI技術の宿命か
「機械学習を使ったセキュリティ製品」の弱点とは?(1/2 ページ)
セキュリティ対策に、機械学習をはじめとするAI技術を生かす動きが広がっている。ただしAI技術は万能ではなく、弱点もあることに注意が必要だ。
機械学習をはじめとする人工知能(AI)技術に関心が集まる中、セキュリティ専門家はAI技術に何ができ、何を目的としてAI技術を使用すべきかを見極めようとしている。
AI技術を取り巻くセキュリティベンダー間の競争が激化する中、悪意を持った攻撃者はAIエンジンを攻撃し、その有効性を低下させる方法を探っている。AI技術を使用して攻撃の一部を自動化する方法も見つけようとしている。
セキュリティベンダーZeroFOXで主席データサイエンティストを務めるフィリップ・タリー氏は、セキュリティカンファレンス「RSA Conference 2018」で、セキュリティ対策にAI技術を利用するメリットと、その問題点を紹介。悪意を持った攻撃者がAI技術を使用して、サイバー攻撃を強化する手口も語った。
本稿では、悪意を持った攻撃者がAI技術を使用して、効率良くサイバー攻撃を仕掛ける手口についてタリーに聞く。
併せて読みたいお薦め記事
AIとセキュリティとの関係
- 「AI活用型セキュリティ製品」のメリットと未来 企業が見極めるべきポイントとは
- 「RPA」と「AI」のセキュリティ対策に違いはあるか?
- AIを悪用したサイバー攻撃が登場、対抗策の「機械学習アルゴリズム」に脚光
AI技術をセキュリティ対策に生かす事例
従来型のセキュリティが依然として王座に
―― 過去1、2年と比べ、2018年はAI技術を使って実際にできることについて、現実的な予測を迫られている印象があります。
タリー氏 それは成熟の過程で起こることだ。AI技術、もっと厳密に言うと機械学習やデータ駆動型分析は、限られた用途で非常に大きな効果を発揮する技術の一つにすぎない。どんな穴でもふさぐ技術ではないのは確かだ。
問題や分野によっては、シグネチャベースの従来型セキュリティ対策が、依然として王座に君臨している。脅威を検出し、阻止する取り組みとしては、こうした比較的簡単な検出手段の効果は依然として高く、理解しやすい。
―― モノのインターネット(IoT)の普及により、生成されるデータ量が飛躍的に増加することは確実です。企業はデータサイエンティストやAI技術への取り組みの必要性について、どのように判断すればよいでしょうか。
タリー氏 IoTデバイスは日常のあらゆることを記録する。いずれは「新しいパンや牛乳が必要になりそうだ」「ビールがなくなりそうだ」といったことを、冷蔵庫が把握するレベルにまで達することになるだろう。現時点では表面に現れていないあらゆる個人情報が、何らかの形でデジタルデータとして表されるようになる。そうなると攻撃は、より個人指向になっていく。
機械学習を使用するタイミングと理由については、頻繁に自問自答する必要があるだろう。機械学習の取り組みは投資だ。低コストでデータサイエンスを利用することは難しい。データサイエンティストが使うツールも安くはない。十分に精選された価値あるデータを集めるプロセスにも、それなりのコストがかかる。
サンプルとなるデータを用意し、悪質か安全かといったラベル付けをするプロセスには、極めて時間を要する。多くの労力がかかり、該当分野の専門知識が求められることもある。
セキュリティに関するデータの整理を外部委託することは、必ずしも容易ではない。そこにはプライバシーも関わる。顧客に帰属するデータの管理を外部委託するとしよう。それが顧客にとって機密情報になる場合、その管理を外部委託して顧客は満足するだろうか。こうしたデータの管理を外部委託したり、第三者にラベル付けをさせたりしてはならないという法的制約はないだろうか。
データサイエンス責任者は基本的に、できるだけデータ管理の外部委託を避けようとする。時間もコストもかかるからだ。
AIエンジンの“穴”を見つけるためのテスト
―― AIエンジンをトレーニングする際、企業は何に注目する必要があるでしょうか。
タリー氏 2つの側面がある。脅威ではないのに脅威だと認識して検知してしまう「過検知」と、脅威なのに検知できない「検知漏れ」だ。
実際には悪質でないデータを悪質だと分類すると、これは過検知になる。アラートやダッシュボードで過検知が生まれると、アナリストや顧客が慌てることになる。対処不要のデータを気にする必要はない。
検知漏れが起きることもある。防衛境界線を通過させてしまった脅威が、極めて悪質な脅威である可能性もある。これは把握することすら難しい。過検知なら、アラートを実際に確認して「これは重要な脅威ではない」と判断できる。では検知漏れが起きた場合、つまり何かを見逃したときに、どのようにしてその事実を知ればよいだろうか。探し出す方法はあるだろうか。
ZeroFOXが提唱しているのは、自社のセキュリティシステムに対するペネトレーションテストの実施だ。悪質または安全であることを既に把握しているデータがあるなら、セキュリティシステムにそうしたデータを渡してみる。そして、どの程度適切に対処するかを確認する。使用するデータは、公開されているデータでも、過去の経験から得たデータでも構わない。
自社のセキュリティシステムを疑って、変更を加えることになる。一部のシグネチャを変えたり、場合によってはURLやファイルを表現するための正規表現パターンを追加したりする。納得できるところまでその作業を続けた後、期待した結果が出れば、場合によっては機械学習などの追加の対策は不要だと確信できる可能性がある。そうなれば新たなコストや作業の発生を回避できる。
AIエンジンを改善し、存在する可能性がある全ての“穴”を見つけるには、自社のAIエンジンにペネトレーションテストを実行する必要がある。AIエンジンに悪影響を与えるデータは、「敵対的生成ネットワーク」(GAN)や「敵対的学習」と呼ばれる手段で自動的に生成できる。このプロセスは、防御側と攻撃側の双方がニューラルネットワークを活用する様子に似ている。
―― セキュリティチームが悪意を持った攻撃者に後れを取らないようにする上で、AI技術が助けになる可能性はありますか。
タリー氏 データ駆動型セキュリティの進化は、誰もが見てみたいと考えている。従来型のシグネチャベースのセキュリティ対策は、脅威に対するフィルターを仕掛けることはできた。だが攻撃者は、既存の攻撃手法に何らかの変更を少しばかり加えることで、こうしたフィルターを避けて通過できるのが実情だ。
何かがフィルターをすり抜けたと気付いたら、それを防ぐために新しいシグネチャを記述することはできる。だがその後、攻撃者は常にゆっくりと調整を加えて、またフィルターを突破できるようになる。機械学習を利用したセキュリティ対策は、こうしたシグネチャベースのセキュリティ対策よりも抽象的で、事前対策的な性質が備わる。
機械学習は万能薬ではなく、最終的な解決策になることは決してない。機械学習を使用しているだけで、安全が確保されることにはならない。機械学習は効率性と予防性に優れた一つの手法だ。機械学習をはじめとするAI技術にはメリットがあるが、弱点もある。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
テレビとノートPCをつないだのに映らない――Dellが解説する正しい接続方法
-
2
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
3
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
4
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
5
「OpenJDK」の重大な脆弱性をAIが1時間で発見 “防御の遅れ”をどう防ぐ?
-
6
「身代金を支払う」以外のランサムウェア対策は本当にあるのか?
-
7
Outlookでゼロデイ悪用、ChromeはXSLT停止――今朝の情シスニュース
-
8
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
9
「仮想化基盤の更改とコスト最適化」に関するアンケート
-
10
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
「AIエージェント」は業務でどう役立つのか? 現場で進む活用例“10選”
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー