前編(Computer Weekly日本語版 9月16日号掲載)では、SIEM(Security Incident and Event Monitoring)の運用が容易ではないことと、AIを統合することによる活用の可能性を紹介した。
後編では、AIの弱点と効果的な利用方法を解説する。
AIは多くの仕事を自動化し、セキュリティ部門の専門スキル不足を埋め、人手による作業の効率を上げる可能性がある。だが、AIは万能ではないと警告するのはInformation Security Forum(ISF)のアナリストを務めるリチャード・アブサロム氏だ。「人間と同様、AIもミスを犯し、故意に操られる恐れもある」と同氏は話す。
注目度の高い一連のケースが示すように、AIはミスを犯し、間違った決定を下す傾向がある。こうしたケースは、採用ツールの性差別や人種差別主義者になることを学ぶTwitterのチャットbotなど多岐にわたる。
一般に、こうした間違いには偶発的な性質がある。システムのトレーニングに使うデータセットが偏っていたり、利用できる情報とモデリングの決定が密接過ぎたり懸け離れ過ぎたりすることに原因がある。悪意を持った第三者がシステムを標的として、トレーニングデータに不適切なデータを紛れ込ませて「汚染する」恐れもある。攻撃者がトレーニングデータにアクセスできないとしても、入力情報を改ざんして誤った決定を行わせるかもしれない。
多くの場合、システムは意思決定の成熟度を適切なレベルに引き上げるまでの時間を必要とする。セキュリティにおけるAIの重要性を過大評価する必要はないが、自動化の効率と人間による監視の必要性とのバランスを取る方法を見つける必要がある。そうすれば、システムは情報を危険にさらすのではなく、適切な決定を下し、情報のセキュリティを確保できるようになる。
ISFのアブサロム氏によると、現状のAIが備えるインテリジェンスは「狭く」、適切に解決できる問題の範囲は限られる傾向があるという。1つのデータセットまたは入力の種類によって対処できる問題に限られる。「1つのAIシステムがあらゆる問題に答えることはできない。そのような『汎用(はんよう)の』AIはまだ存在しない」と同氏は話す。サイバー防御を改善するには、異なるAIシステムを次の3つの方法で使用する。
続きを読むには、[続きを読む]ボタンを押して
ください(PDFをダウンロードします)。
営業デジタル化の始め方(無料eBook)
「ITmedia マーケティング」では、気になるマーケティングトレンドをeBookにまとめて不定...
「RED」「Bilibili」「Douyin」他 中国の主要SNSプラットフォームの特徴まとめ
トレンド変化の大きい中国においてマーケティングを成功させるためには、主要SNSプラット...
コロナ禍における「ご自愛消費」の現状――スナックミー調査
「ご自愛消費」として最も多いのは「スイーツやおやつ」で全体の68%。その他、ランチ38...