攻撃に賢く対抗するためのAI活用【後編】
「脅威インテリジェンスとAIがあれば安心」と言い切れないのはなぜか
脅威の検出や分析に人工知能(AI)を利用する動きが広がっているが、事前に知っておきたい重要な注意点が幾つかある。5つのポイントで解説する。
脅威を検出して対策を講じるための仕組みである「脅威インテリジェンス」に人工知能(AI)技術を取り入れれば、脅威検出の速度や精度を高めることができる。ただしAI技術を利用する際の課題や注意点が幾つかある。AI技術で脅威インテリジェンスの可能性を適切に広げられるようになるためのポイントをまとめた。
「脅威インテリジェンス×AI」の注意点はこれだ
併せて読みたいお薦め記事
連載:攻撃に賢く対抗するためのAI活用
そもそも脅威インテリジェンスとは?
脅威インテリジェンスにAI技術を取り入れる際の主な課題や注意点は以下の通り。
攻撃者もAI技術を利用
AI技術を利用するのは防御側だけではない。攻撃者もAI技術を取り入れ、攻撃力を高めている。例えばAI技術の利用によって、より自然な文章のフィッシングメール作成や、高度なマルウェア開発が可能になる。AI技術の仕組みを狙った攻撃もある。最近は、生成AIに対して悪意のある入力を与えて、通常は想定していない回答や結果を引き出す「プロンプトインジェクトション」といった手口が広がりつつある。
セキュリティ担当者のスキル
脅威インテリジェンスにAI技術を利用するには、高度な専門知識が必要だ。担当者はセキュリティに関する知識はもちろん、データの収集や整備を含めたAIモデルのトレーニングにも精通しなければならない。AIツールの管理や操作、脅威分析を踏まえた対処といったことに関する知識も重要だ。組織にそうした知識やスキルが不足しているのであれば、トレーニングによる担当者のスキル向上が重要になる。
データ品質
脅威の検出精度を高めるには、品質の高いデータをAIモデルに提供する必要がある。データに不要なものや不正確なものが混じっていると、AIモデルが誤った検出をしかねない。AIモデルがバイアス(偏見)を持つ可能性もあるので注意が必要だ。
プライバシーとコンプライアンス
AI技術の利用にはさまざまなデータの取り扱いが伴うので、プライバシー確保とコンプライアンス(法令順守)の徹底が課題になる。AI技術を利用する組織は、データの所有者は誰なのかや、A I技術が出した回答に関して誰が責任を持つのかといったことを明確にしなければならない。そもそも、分析するデータが安全かどうかの確認も必要だ。プライバシーとコンプライアンスにはさまざまな落とし穴があるので、AI技術を利用する前にきめ細かにチェックしておこう。
AI技術は「補完」の役割
セキュリティシステムの脆弱(ぜいじゃく)性を理解し、それに対処する方法を打ち出す上で、AI技術は有効なツールになる。とはいえAI技術は人間のセキュリティ担当者に取って代わるものではない。人間のセキュリティ担当者は脅威だけではなく、組織のビジネス方針や市場環境といったことも把握し、幅広い視点でセキュリティを考える。AI技術を最大限に活用するには、「AI技術にできること」と「人間がやるべきこと」を理解し、役割を分担することが重要だ。
TechTarget発 先取りITトレンド
米国Informa TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
3
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
4
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
5
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
6
積水化学工業が「SAP S/4HANA Cloud」の“全グループ導入”に踏み切った訳
-
7
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
8
“アジャイルの壁”に挑むオリックス生命がIBMの開発管理ツールを選んだ理由
-
9
「Chrome」「Edge」「Firefox」のメモリ使用量はどれだけ違う? 測定してみた
-
10
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
5
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー