2020年10月14日 08時08分 公開
特集/連載

セキュリティ対策にAIを生かす効果的な利用法インテリジェントなセキュリティ対策【後編】

AIは万能ではない。弱点もあるし、全てのケースに適用できるわけでもない。だがAIの限界と適正を理解して用いればセキュリティの強化に役立てることができる。

[Cliff Saran,Computer Weekly]
iStock.com/tyle-photography

 前編(Computer Weekly日本語版 9月16日号掲載)では、SIEM(Security Incident and Event Monitoring)の運用が容易ではないことと、AIを統合することによる活用の可能性を紹介した。

 後編では、AIの弱点と効果的な利用方法を解説する。

 AIは多くの仕事を自動化し、セキュリティ部門の専門スキル不足を埋め、人手による作業の効率を上げる可能性がある。だが、AIは万能ではないと警告するのはInformation Security Forum(ISF)のアナリストを務めるリチャード・アブサロム氏だ。「人間と同様、AIもミスを犯し、故意に操られる恐れもある」と同氏は話す。

 注目度の高い一連のケースが示すように、AIはミスを犯し、間違った決定を下す傾向がある。こうしたケースは、採用ツールの性差別や人種差別主義者になることを学ぶTwitterのチャットbotなど多岐にわたる。

 一般に、こうした間違いには偶発的な性質がある。システムのトレーニングに使うデータセットが偏っていたり、利用できる情報とモデリングの決定が密接過ぎたり懸け離れ過ぎたりすることに原因がある。悪意を持った第三者がシステムを標的として、トレーニングデータに不適切なデータを紛れ込ませて「汚染する」恐れもある。攻撃者がトレーニングデータにアクセスできないとしても、入力情報を改ざんして誤った決定を行わせるかもしれない。

 多くの場合、システムは意思決定の成熟度を適切なレベルに引き上げるまでの時間を必要とする。セキュリティにおけるAIの重要性を過大評価する必要はないが、自動化の効率と人間による監視の必要性とのバランスを取る方法を見つける必要がある。そうすれば、システムは情報を危険にさらすのではなく、適切な決定を下し、情報のセキュリティを確保できるようになる。

防御におけるAI:検出、防止、対応

 ISFのアブサロム氏によると、現状のAIが備えるインテリジェンスは「狭く」、適切に解決できる問題の範囲は限られる傾向があるという。1つのデータセットまたは入力の種類によって対処できる問題に限られる。「1つのAIシステムがあらゆる問題に答えることはできない。そのような『汎用(はんよう)の』AIはまだ存在しない」と同氏は話す。サイバー防御を改善するには、異なるAIシステムを次の3つの方法で使用する。




続きを読むには、[続きを読む]ボタンを押して
ください(PDFをダウンロードします)。






ITmedia マーケティング新着記事

news040.jpg

新型コロナ接触確認アプリ プライバシーと感染抑止の間で揺れ動く各国の対応
欧米では新型コロナ「第2波」への危機感が高まっています。主要国における接触確認アプリ...

news163.jpg

2020年米国ホリデーシーズンショッピング、オンライン売上高が過去最高に――Adobe予測
Adobeはホリデーシーズンの米国におけるオンライン売上高が1890億ドルになると予測してい...