インテリジェントなセキュリティ対策【後編】

セキュリティ対策にAIを生かす効果的な利用法

AIは万能ではない。弱点もあるし、全てのケースに適用できるわけでもない。だがAIの限界と適正を理解して用いればセキュリティの強化に役立てることができる。

公開 2020年10月14日 08時00分

更新 2021年10月22日 15時18分

著者

Cliff Saran

[Computer Weekly]

印刷する連載新着通知を受け取る

　前編（ Computer Weekly日本語版　9月16日号掲載）では、SIEM（Security Incident and Event Monitoring）の運用が容易ではないことと、AIを統合することによる活用の可能性を紹介した。

　後編では、AIの弱点と効果的な利用方法を解説する。

　AIは多くの仕事を自動化し、セキュリティ部門の専門スキル不足を埋め、人手による作業の効率を上げる可能性がある。だが、AIは万能ではないと警告するのはInformation Security Forum（ISF）のアナリストを務めるリチャード・アブサロム氏だ。「人間と同様、AIもミスを犯し、故意に操られる恐れもある」と同氏は話す。

　注目度の高い一連のケースが示すように、AIはミスを犯し、間違った決定を下す傾向がある。こうしたケースは、採用ツールの性差別や人種差別主義者になることを学ぶTwitterのチャットbotなど多岐にわたる。

　一般に、こうした間違いには偶発的な性質がある。システムのトレーニングに使うデータセットが偏っていたり、利用できる情報とモデリングの決定が密接過ぎたり懸け離れ過ぎたりすることに原因がある。悪意を持った第三者がシステムを標的として、トレーニングデータに不適切なデータを紛れ込ませて「汚染する」恐れもある。攻撃者がトレーニングデータにアクセスできないとしても、入力情報を改ざんして誤った決定を行わせるかもしれない。

　多くの場合、システムは意思決定の成熟度を適切なレベルに引き上げるまでの時間を必要とする。セキュリティにおけるAIの重要性を過大評価する必要はないが、自動化の効率と人間による監視の必要性とのバランスを取る方法を見つける必要がある。そうすれば、システムは情報を危険にさらすのではなく、適切な決定を下し、情報のセキュリティを確保できるようになる。

防御におけるAI：検出、防止、対応

　ISFのアブサロム氏によると、現状のAIが備えるインテリジェンスは「狭く」、適切に解決できる問題の範囲は限られる傾向があるという。1つのデータセットまたは入力の種類によって対処できる問題に限られる。「1つのAIシステムがあらゆる問題に答えることはできない。そのような『汎用（はんよう）の』AIはまだ存在しない」と同氏は話す。サイバー防御を改善するには、異なるAIシステムを次の3つの方法で使用する。

サイバー攻撃の検出

　AIはネットワークの監視と分析、侵入の検知と防止、UEBA（User and Entity Behavioural Analytics：ユーザーとエンティティーの行動分析）などの防御メカニズムを強化できる。

サイバー攻撃の防止

　AIを使うと、ソフトウェアの脆弱性の検証、脅威インテリジェンスプラットフォームの改善、情報資産の特定と管理が可能になる。

サイバー攻撃への対応

　AIツールは、他のセキュリティツールに指示をプッシュすることでSOAR（Security Orchestration, Automation and Response）ツールをサポートしたり、ネットワーク上で悪意のあるアクティビティーを特定したときに接続を強制的に切断したりすることができる。

　AIがサポートする制御が自律的かつ効果的に機能するように、セキュリティ担当者が人間による監視の必要性と信頼性のバランスを取ることをアブサロム氏は勧める。「そうした信頼性が高まっていくには時間がかかるだろう。それはインテリジェントシステムが機能する最善の方法をセキュリティ担当者が学ぶのに時間がかかるのと全く同じだ」と同氏は話す。

　信頼性が高まる時間と学ぶ時間の両方を考えると、企業のサイバー防御にとっては人間とAIの組み合わせが重要な構成要素になるとアブサロム氏は考える。

　モリス氏が指摘するように不正管理、SIEM、ネットワークトラフィック検出、エンドポイント検出は全て、学習アルゴリズムを用いて以前の使用状況データと共有パターン認識を基に「正常な」使用パターンを確立し、自社にリスクをもたらす恐れのある外れ値にフラグを立てることで疑わしいアクティビティーを特定する。

　ウェナム氏によると、比較的小規模かITインフラがシンプルな企業にとってAI対応のSIEMは高額で、これを適切なセキュリティ対策と組み合わせることにはほとんどまたは全くメリットがないという。大企業かITインフラが複雑な企業では、AI対応SIEMは十分正当化される可能性があるともウェナム氏は話す。ただし、同氏は次のように警告する。「当てにならないセールスマンの話には注意し、製品の細部まで評価する。SIEM製品の機能はいまだ確立されていない」

　AIはITセキュリティの状況を予測するという点では理想的だが、リスクを取り除くことはできないとモリス氏は話す。機能の複雑さをあまり評価していないのにそれを信頼し過ぎている場合は特にそれが当てはまると同氏は語る。「誤検知などのリスクや脅威を全て特定できないことは常に存在する」と同氏は補足する。

　自動対応を導入している企業は、専門家が手作業で行う入力と技術ソリューションとの間のバランスを取る一方で、AIが進化する技術であることを理解する必要があるとモリス氏は勧める。「継続的にトレーニングすることで、チームは脅威のカーブに先手を打つことができる。攻撃側もAIツールや手法を使えることを考えれば、継続的トレーニングを考慮することが重要になる。リスクを緩和するには、防御側は継続的に対応するしかない」と同氏は話す。

　ハイネマイヤー氏は次のように補足する。「攻撃者のAI利用が本格化する前に、企業は今すぐ防御にサイバーAIを導入する必要がある。アルゴリズム対アルゴリズムの戦いになれば、AIによって強化された攻撃に反撃できるのは自律型の対応だけになるだろう」

印刷する