AIはセキュリティの「敵」か「味方」か――AIが分析 果たして結論は？：セキュリティ動向まとめ
セキュリティ担当者からみれば、AIはもろ刃の剣だ。セキュリティ運用の効率化を支援する一方、攻撃者の強力なツールにもなっている。本稿はAIツールの力を借り、AIが「敵」か「味方」かを分析した。
AI（人工知能）の進化はセキュリティの現場に大きな影響を与えている。従来の手法では防ぎきれなかった攻撃を、AIは迅速に検知し、自動的に対策を講じる。一方で、攻撃者側もAIを武器に巧妙な攻撃を仕掛けており、企業は新たな脅威と直面している。
特に懸念されるのは、AIによる攻撃の高度化だ。生成AIの登場によって、不正なメールやWebサイトを利用した攻撃手法が進化している。
攻撃専用のAIツールを使えば、正しい言葉づかいだけではなく、内容にも「説得力」がある詐欺メールを自動的に作成できる。AIツールが作った詐欺メールは、誤植や不自然な文章が目立ちがちな従来の詐欺メールと違い、人間が見ても見破りにくくなっている（出典：「攻撃専用GPT」が生成する“見破れない詐欺メール” その恐ろし過ぎる現実）。
一方で、AIをセキュリティ担当者の味方にする試みも進んでいる。
AIはセキュリティの「敵」か「味方」か
例えば、AIエージェントを活用したセキュリティ製品では、脅威の検出に加え、重要度や緊急度の評価、対応タスクの自動化によって、セキュリティ担当者の負荷軽減を狙う動きが広がっている（AIエージェントの概要と課題については「期待値はChatGPT超え？ セキュリティは『AIエージェント』でこう変わる」参照）。
AIを取り入れたセキュリティツールは将来、自動修復機能も持つようになるとセキュリティ専門家はみている。そうなると、本来、人間が実施していたシステムの修復作業をAIによって自動化できる（出典：自動修復は当たり前？ セキュリティはAIでどこまで進化するのか）。人的対応の遅れやヒューマンエラーのリスクを軽減し、迅速な回復を図れる。
脅威としてのAI
攻撃者側では、国家支援型を含め、高度なサイバー犯罪グループによる攻撃が広がっている。AIツールを用いて北朝鮮のハッカーが身分を偽り、米国企業に「入社」してシステム侵害を図る事例も報告されており、AIを活用した攻撃は巧妙化の一途をたどりつつある（出典：北朝鮮ハッカー、身分を装い米国企業に「入社」 AIでできる驚きの攻撃とは）
他にも、例えば企業のエグゼクティブのスピーチがインターネットで公開されている場合、それを素材として学習させることで本人の声を偽装し、不正な資金振込を指示する音声を偽装して電話を使って担当者をだます、「ビッシング」（Voice Phishing）と呼ばれる手法も増えている（出典：追跡しにくい「国家支援型攻撃」や「生成AI悪用」が急増――CrowdStrikeが報告）。
では、どうすればいいのか
AI時代の防御では、「AIにAIで対抗する」発想が重要だと指摘されている。防御側もAIを活用して脅威を検知・分析しつつ、ネットワークやアプリケーションの設計段階からセキュリティを組み込む必要がある。一方で、どのデータを守るべきか、どのリスクを優先するかといった判断には人間の関与が欠かせない（出典：AIにはAIで対抗せよ――旧来セキュリティが“根本”から変わる3つの新戦略）。
こうした中、セキュリティ戦略そのものを見直す動きも出ている。AI技術を前提にしたセキュリティシステムでは、攻撃を受けることを前提に、検知後の対処やシステムの修復を自動化することで、ビジネスの回復力と運用効率を高めることが求められている。従来は「問題を見つけること」が主な役割だったセキュリティ製品も、「問題を解決すること」まで守備範囲に含める方向にシフトしつつある（出典：自動修復は当たり前？ セキュリティはAIでどこまで進化するのか）。
結論
現状では、AIはセキュリティ担当者にとって「味方」である面もあれば、「敵」として脅威になる面もある。重要なのは、AIの特性と限界を理解し、攻撃側・防御側の両方の視点で戦略を立てることだ。
将来は、AI同士が攻防を競い合う状況も予想される。防御AIは攻撃AIのパターンを学習し、攻撃AIは防御AIの検知を回避する――といった具合だ。この「動的な環境」に適応するために、企業はAIの導入だけではなく、人間による判断、セキュリティポリシー策定、リアルタイム監視を統合した体制を構築する必要がある。
企業は攻撃者の手法に先んじて防御策を強化することで、リスクを最小化できる。そのために、AIは単なる脅威ではなく、戦略的に活用すれば強力な防御力となる存在だ。
（※）本記事はTechTargetジャパン、ComputerWeeklyなどの記事を基に、注目のITトレンドを紹介しています。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。