シミュレーションを基に学ぶ

「AIサイバー攻撃」とは何か？　Twitterの悪用を例に解説（1/2 ページ）

人工知能（AI）技術をセキュリティ対策に応用する動きが広がる一方、攻撃者がAI技術を活用する「AIサイバー攻撃」の存在が意識され始めている。

公開 2018年07月04日 05時00分

著者

Michael Heller

[TechTarget]

印刷する

　サイバーセキュリティ分野では、機械学習をはじめとする人工知能（AI）技術が注目の話題だ。セキュリティ担当者が利用できる技術は、当然ながら悪意を持った攻撃者も同じく利用できる。

　AI技術を活用したサイバー攻撃（以下、AIサイバー攻撃）は、まだ理論上可能という段階にすぎない。それが機能し得るのは、どのような状況なのか。AI技術を巡る激しい競争は、セキュリティ担当者と攻撃者のどちらに優位をもたらすのか。セキュリティベンダーZeroFOXで主席データサイエンティストを務める、フィリップ・タリー氏に話を聞いた。本稿は、セキュリティカンファレンス「RSA Conference 2018」で、同氏にインタビューした内容をまとめた。

併せて読みたいお薦め記事

AIとセキュリティの関係

AIについてもっと詳しく

――　AIサイバー攻撃の現状を教えてください。

タリー氏　攻撃者が実際にAIサイバー攻撃を実行したことを示す、確固たる証拠はこれまで確認されていない。こうした攻撃が過去に起こったことを証明できるかどうかも分からない。

　攻撃の実行速度を根拠に、攻撃側が自動システムである可能性を実証することはできる。ただし、その事実だけでAIサイバー攻撃だと断定するのは非常に難しい。攻撃で利用されたAIエンジンを見つけ出し、入力データと出力データを使って検証しない限り、それがAIサイバー攻撃だと証明する手段は存在しないといってもよい。

　AIサイバー攻撃は間違いなく起こると予測している。その要素技術であるデータサイエンスに取り組むハードルは低くなっており、ますます普及が進むことになる。

　昔はローカルコンピュータで精密なAIエンジンをトレーニングすることは難しかった。現在では、Amazon Web ServicesやGoogleなどのクラウドを活用し、大規模で扱いにくい複雑なAIエンジンをトレーニングできる。高いパフォーマンスを発揮するGPU（画像処理プロセッサ）クラスタを利用することも可能だ。

　手軽に機械学習アルゴリズムを利用可能にするためのシステムが、実際に提供されている。Googleの「Cloud AutoML」やAmazon Web Servicesの「Amazon SageMaker」は、どちらもその例だ。どちらも基本的に、私のようなデータサイエンティストが間に入ったり、専門知識を学んだりしなくても使用できる。

　教育資料へのアクセスも非常に楽になっている。現在は機械学習の存在が非常に大きくなっている。今はまだでも、5年もすれば高等学校で機械学習が教えられるようになるだろう。機械学習は非常に広く普及し、当たり前の技術へと変わる。

　こうしたトレンドは攻撃者にとってのハードルも下げる。攻撃者が金銭獲得などの目的を達成するために、以前は求められたはずの知識が不要になる方法を見つけたら、どうするだろうか。すぐに具体的な攻撃活動に着手することは間違いない。

　こうしたことが現実に起こるのは、どれくらい先だろうか。現時点ではまだ理論上のことだと考えているが、それほど遠い未来ではないだろう。

情報共有の不足が攻撃者を有利に

　攻撃者にとってのもう一つのメリットは、ベンダー間の情報共有が難しいことだ。顧客が攻撃を受けていたり、攻撃の標的にされていたりする場合、そうしたデータを所属するチーム以外と自由に共有できないのは言うまでもない。顧客側がフォレンジックや追跡調査を望み、その作業を新たなベンダーに依頼する場合もある。だが、こうしたインシデントを競合ベンダーや他分野の研究者に提供できるようには、決してならない。

　その結果、さまざまな独自のセキュリティ対策が無数に生まれる。攻撃側はこうした細分化されたセキュリティの情勢に、いくらか付け込むことができる。この分野には“神対策”と呼ばれるような唯一の対策は存在しない。素晴らしさをアピールする対策は実に大量に存在するものの、実際には誰もそれらの優秀さ度合いを分かっていない。何一つとして互いに共有されていないからだ。

　とはいえ利益を生む効果的な手口として、実際にAIサイバー攻撃が使われるようになるまでには、ある程度時間がかかるだろう。

――　悪意を持った攻撃者が、セキュリティベンダーと似た方法で独自のAIエンジンをトレーニングし、それを使ってAIサイバー攻撃を仕掛けることは可能でしょうか。

タリー氏　私は、攻撃者がそうしたことを簡単に実行可能になっていると主張したことがある。数年前にカンファレンスで、あるシミュレーションを発表した。ミニブログ「Twitter」経由で特定のユーザーを標的にし、そのユーザーの公開されたタイムラインデータを攻撃に活用するシミュレーションだ。

　シミュレーションでは、マイクロターゲティングの要領でユーザーの行動を分析し、「＠ユーザー名」を含むメンションの形でツイートをした。そのツイートにはコンピュータで生成したテキストと、短縮URLを記載した。短縮URLを使うのは、最終的なリダイレクト先を幾分曖昧にするためだ。さらに機械学習を使用して、ターゲットを絞ったこうしたツイートの生成先を、多数のユーザーにまで広げた。

　このシミュレーションは、AIサイバー攻撃を簡単に実現できることを示した。シミュレーションを着想したきっかけは「データ駆動型の手法を使用して、防御を構築することはできる。同様にデータ駆動型の手法を活用できる攻撃はないだろうか」という自問自答だ。答えは「ある」だった。それを具現化したツールが「SNAP_R」（Social Network Automated Phishing with Reconnaissance：調査機能を備えたソーシャルネットワーク向け自動フィッシング）だ。

　シミュレーションでは、基本的には「安全」とも「悪質」ともラベルを付ける必要のない、多数のツイートを利用した。AIエンジンには「ツイートとはどのようなものか」を理解することのみ求めた。実際には、Twitterによる本人確認を済ませた「認証済みアカウント」から、ランダムにデータを抽出した。認証済みアカウントの方が、botが生成するような無意味な投稿をしない可能性が高いからだ。

　こうしたデータでトレーニングした結果、このAIエンジンは通常のツイートのように見えるテキストを生成できるようになった。その後、このAIエンジンをニューラルネットワークの出発点として定め、このAIエンジンの標的にするユーザーを決定。そのユーザーのタイムラインを動的に読み取り、投稿の内容を把握できるようにした。「サンフランシスコ」「サイバーセキュリティ」「ジャーナリズム」など、内容は何であっても構わない。そうした情報をAIエンジンに与えた後に、その攻撃の矛先をユーザーに向けた。

　標的とするユーザーの関心に沿ったツイートをすることで、そのユーザーがリンクをクリックする可能性が高まる。これに「ナイジェリアの手紙」と呼ばれる詐欺のような、手当たり次第のアプローチを組み合わせる。詐欺メールを何百万通もばらまくのだ。それがうまく機能するのは、ほんのわずかな相手だけだが、利益が出るならそれで十分だといえる。

　さらにはCEOなど、価値が高い標的を事前に調べる作業も組み合わせる。これはホエーリング攻撃とも呼ばれるビジネスメール詐欺（BEC）やスピアフィッシング攻撃に似ている。

　ZeroFOXは、このようにして攻撃的な方法でAI技術を使えることを示した。AI技術の正確性に、標準のフィッシング攻撃の拡張性を組み合わせた形だ。公開データをベースに、マイクロターゲティングの手法でユーザーの行動を分析すると、最大30～35％程度のクリックスルー率（CTR）が達成できた。

　ユーザーに案内したのは安全なリンクだ。ZeroFOXは一般には悪意のあるリンクを提供していない。ただしユーザーへの注意喚起をするために、CTRは計測した。

次ページへ AIサイバー攻撃は流行するのか