攻撃に賢く対抗するためのAI活用【後編】

「脅威インテリジェンスとAIがあれば安心」と言い切れないのはなぜか

脅威の検出や分析に人工知能（AI）を利用する動きが広がっているが、事前に知っておきたい重要な注意点が幾つかある。5つのポイントで解説する。

公開 2025年02月14日 07時02分

[TechTarget]

印刷する連載新着通知を受け取る

　脅威を検出して対策を講じるための仕組みである「脅威インテリジェンス」に人工知能（AI）技術を取り入れれば、脅威検出の速度や精度を高めることができる。ただしAI技術を利用する際の課題や注意点が幾つかある。AI技術で脅威インテリジェンスの可能性を適切に広げられるようになるためのポイントをまとめた。

「脅威インテリジェンス×AI」の注意点はこれだ

併せて読みたいお薦め記事

連載：攻撃に賢く対抗するためのAI活用

前編：「脅威インテリジェンス」はどう進化する？　AIによる7大強化ポイント

そもそも脅威インテリジェンスとは？

　脅威インテリジェンスにAI技術を取り入れる際の主な課題や注意点は以下の通り。

攻撃者もAI技術を利用

　AI技術を利用するのは防御側だけではない。攻撃者もAI技術を取り入れ、攻撃力を高めている。例えばAI技術の利用によって、より自然な文章のフィッシングメール作成や、高度なマルウェア開発が可能になる。AI技術の仕組みを狙った攻撃もある。最近は、生成AIに対して悪意のある入力を与えて、通常は想定していない回答や結果を引き出す「プロンプトインジェクトション」といった手口が広がりつつある。

セキュリティ担当者のスキル

　脅威インテリジェンスにAI技術を利用するには、高度な専門知識が必要だ。担当者はセキュリティに関する知識はもちろん、データの収集や整備を含めたAIモデルのトレーニングにも精通しなければならない。AIツールの管理や操作、脅威分析を踏まえた対処といったことに関する知識も重要だ。組織にそうした知識やスキルが不足しているのであれば、トレーニングによる担当者のスキル向上が重要になる。

データ品質

　脅威の検出精度を高めるには、品質の高いデータをAIモデルに提供する必要がある。データに不要なものや不正確なものが混じっていると、AIモデルが誤った検出をしかねない。AIモデルがバイアス（偏見）を持つ可能性もあるので注意が必要だ。

プライバシーとコンプライアンス

　AI技術の利用にはさまざまなデータの取り扱いが伴うので、プライバシー確保とコンプライアンス（法令順守）の徹底が課題になる。AI技術を利用する組織は、データの所有者は誰なのかや、A I技術が出した回答に関して誰が責任を持つのかといったことを明確にしなければならない。そもそも、分析するデータが安全かどうかの確認も必要だ。プライバシーとコンプライアンスにはさまざまな落とし穴があるので、AI技術を利用する前にきめ細かにチェックしておこう。

AI技術は「補完」の役割

　セキュリティシステムの脆弱（ぜいじゃく）性を理解し、それに対処する方法を打ち出す上で、AI技術は有効なツールになる。とはいえAI技術は人間のセキュリティ担当者に取って代わるものではない。人間のセキュリティ担当者は脅威だけではなく、組織のビジネス方針や市場環境といったことも把握し、幅広い視点でセキュリティを考える。AI技術を最大限に活用するには、「AI技術にできること」と「人間がやるべきこと」を理解し、役割を分担することが重要だ。