セキュリティ対策にAIを生かす効果的な利用法：インテリジェントなセキュリティ対策【後編】

AIは万能ではない。弱点もあるし、全てのケースに適用できるわけでもない。だがAIの限界と適正を理解して用いればセキュリティの強化に役立てることができる。

[Cliff Saran，Computer Weekly]

iStock.com/tyle-photography

　前編（Computer Weekly日本語版　9月16日号掲載）では、SIEM（Security Incident and Event Monitoring）の運用が容易ではないことと、AIを統合することによる活用の可能性を紹介した。

　後編では、AIの弱点と効果的な利用方法を解説する。

　AIは多くの仕事を自動化し、セキュリティ部門の専門スキル不足を埋め、人手による作業の効率を上げる可能性がある。だが、AIは万能ではないと警告するのはInformation Security Forum（ISF）のアナリストを務めるリチャード・アブサロム氏だ。「人間と同様、AIもミスを犯し、故意に操られる恐れもある」と同氏は話す。

　注目度の高い一連のケースが示すように、AIはミスを犯し、間違った決定を下す傾向がある。こうしたケースは、採用ツールの性差別や人種差別主義者になることを学ぶTwitterのチャットbotなど多岐にわたる。

　一般に、こうした間違いには偶発的な性質がある。システムのトレーニングに使うデータセットが偏っていたり、利用できる情報とモデリングの決定が密接過ぎたり懸け離れ過ぎたりすることに原因がある。悪意を持った第三者がシステムを標的として、トレーニングデータに不適切なデータを紛れ込ませて「汚染する」恐れもある。攻撃者がトレーニングデータにアクセスできないとしても、入力情報を改ざんして誤った決定を行わせるかもしれない。

　多くの場合、システムは意思決定の成熟度を適切なレベルに引き上げるまでの時間を必要とする。セキュリティにおけるAIの重要性を過大評価する必要はないが、自動化の効率と人間による監視の必要性とのバランスを取る方法を見つける必要がある。そうすれば、システムは情報を危険にさらすのではなく、適切な決定を下し、情報のセキュリティを確保できるようになる。

防御におけるAI：検出、防止、対応

　ISFのアブサロム氏によると、現状のAIが備えるインテリジェンスは「狭く」、適切に解決できる問題の範囲は限られる傾向があるという。1つのデータセットまたは入力の種類によって対処できる問題に限られる。「1つのAIシステムがあらゆる問題に答えることはできない。そのような『汎用（はんよう）の』AIはまだ存在しない」と同氏は話す。サイバー防御を改善するには、異なるAIシステムを次の3つの方法で使用する。

続きを読むには、［続きを読む］ボタンを押して
ください（PDFをダウンロードします）。

関連記事

恐怖をあおるセキュリティ業界に喝！

氾濫する機械学習アプリケーションの誇大宣伝と現実

AI型サイバー攻撃に対抗する方法

米国にまん延する「AIでセキュリティの課題は解決」論の危険性

AIセキュリティ製品を導入する前にやるべきこと