AI技術の限界を認識すべし

　AI技術はセキュリティを新しいレベルに引き上げる。ただしCIOは、その限界と弱点についても正しく理解しておかなければならない。「AIセキュリティ製品を導入すると、IT部門やビジネス部門の担当者はそれで安心してしまう」。ソフトウェア開発やサポートを手掛けるGOOBER共同創設者のピーター・パーセル氏は、そう指摘する。「AIセキュリティ製品は『すぐに学習して、あらゆる攻撃を食い止めてくれる』と考えられがちだが、それは単純に正しくない」と同氏は言い添える。なぜ正しくないのか。

　統計データを使って悪質か無害かのパターンを分類でき、学習して現状に順応できることが、AIセキュリティ製品の強みだ。ただしこの強みは弱点にもなり得る。ITコンサルティング会社System Soft Technologiesのエンジニアリング担当副社長、サティシュ・アッバリ氏は次のように言う。「最初のうちは異常として検出できた挙動でも、学習を経てしばらくたつと、それが普通の挙動だと認識するようになる可能性がある」

　AI技術の強みがパターン認識にあることを逆手に取り、攻撃者は自らの悪質なパターンに徐々にAIエンジンを順応させて正常な挙動に見せかけたり、AIエンジンを混乱させる方法で行動を実行したりする。例えばマルウェアに余分な無関係の手順を踏ませて、システムに侵入してから攻撃を実行するまでの時間を長引かせて、正常な挙動のように見せたりする。

　学習済みのAIエンジンに対して通用するもう一つの手口として、人にとっては何の意味も持たない不正な信号を挿入し、アルゴリズムをだましてその挙動を正常だと分類させる方法もある。われわれは画像分類や顔認識の分野で、それを目の当たりにしている。画像に無関係のピクセルを1つ挿入しただけで、AIエンジンは混乱してタクシーを犬と認識したりする。「あらゆる種類の不正な信号を挿入すれば、人間にとっては何の意味もなくても、コンピュータはそれにつられて、その挙動に悪意はないと判断してしまう可能性がある」。セキュリティベンダーRedSealの最高技術責任者（CTO）、マイク・ロイド氏はそう語る。

　高度な攻撃者はそのことを認識している。AIエンジンに学習させて、何が正常かを認識させられるのであれば「攻撃者にとって最善の策は、それを通じて自らの行動を正常に見せることだ」とロイド氏は語る。「もし狙った相手がインターネットをよく利用する人物で、その相手からクレジットカード番号を盗みたいと思えば、自分たちが送信するトラフィックを、できる限りWebページのダウンロードのように見せ掛ければいい」（同氏）

AIサイバーセキュリティの展望

　CIOは、AI技術を万能だと見なすべきではない。ただし専門家は、AI技術ならではの機能も見過ごしてはならないと指摘する。

　ITコンサルタントで米国電気電子学会（IEEE）委員のケイン・マクグレイドリー氏は、AIセキュリティ製品が持つ独特のメリットの一つとして、個別のエンドユーザーについて個別にプロファイル（分析結果）を作成し、そのエンドユーザーに関して何が異常な挙動かを見極める能力を挙げる。これで攻撃者の活動を、標的とする特定のアカウントにとって正常な動作の範囲内に限定。システムに対する集中攻撃を阻止できる。

　AIエンジンを強化するもう一つの方法は、データの供給量を増やすことだ。結局のところ、AIエンジンは与えられたデータに匹敵する強さにしかなれない。データが増えるほど、何が自然で、何が不自然かの分類を助けることができる。

　エンドユーザーがシアトルで携帯電話やノートPCを使ってログインしているときに、ニューヨークからの接続があれば不自然だ。エンドユーザーの入力スタイルや速度をチェックしたり、生体認証を使ったりして、正規のエンドユーザーかどうかを判断することもできる。「こうしたデータを使えば、攻撃者がその環境の中でひそかに行動することは難しくなる」とマクグレイドリー氏は言う。

　どのようなセキュリティシステムであれ、最大のリスク要因に目を向けることが大切だ。CIOは聞いたことがあるかもしれないが、それはソフトウェアではない。

　「保険金請求の大多数は、何らかの人為ミスを伴うハッキングやサイバー犯罪に起因する」。こう語るのは、サイバーセキュリティ保険会社Coalitionの創業者で最高経営責任者（CEO）のジョシュア・モッタ氏だ。「われわれが目にする全攻撃の90％以上は、フィッシングやSQLインジェクション、インターネットのリモートアクセス、弱いパスワードといった単純な事柄が占める」（モッタ氏）

　AI技術は追加的なセキュリティの層を提供する。たとえ攻撃者がAI技術で守られたシステムに侵入しようとしても、その攻撃は大幅に減速する。そこで攻撃者はAI技術に守られないシステムを狙うようになる。その方が侵入しやすいからだ。

　究極的には安全なシステムなど存在しない。攻撃者が掛ける労力は、標的の価値に比例する。もし有名になりたいだけのスクリプトキディであれば単純に、より簡単な標的に攻撃対象を移すだろう。だが相手が、国家が関与するレベルのサイバー犯罪集団だった場合、侵入に成功するまで粘るはずだ。「セキュリティはプロセスであって、製品ではない」という言葉は記憶に値する。