ディープフェイク攻撃が生成AI時代の新たな脅威となっている。攻撃への備えとして訓練ツールを導入すべき企業とは。製品選定で確認すべき5つの機能とともに紹介する。
従業員にメールのリンクをクリックさせたり、偽のログイン画面に認証情報を入力させたりする従来型のフィッシング攻撃に加え、生成AIで経営幹部の声や姿を再現する攻撃が新たな脅威になっている。音声や映像を使った攻撃を想定した訓練に取り組むべきなのか。ITコンサルティング企業Nemertes ResearchのCTO、ジョン・バーク氏が、導入判断の基準と製品選定のポイントを紹介する。
攻撃者は、経営幹部や上司、取引先、顧客などを装ったメールやSMSを送り、従業員をだましてリンクをクリックさせたり、認証情報や機密情報を入力させたりする。企業はセキュリティ意識向上研修を実施するほか、疑似的なフィッシングメールを送る訓練ツールを使い、教育内容の弱点や追加研修が必要な従業員を特定してきた。
しかし、生成AIの普及によって、ソーシャルエンジニアリング攻撃はメールやSMSだけでは完結しなくなっている。攻撃者は、企業幹部や直属の上司、同僚の声を複製した音声や、本人に似せた合成映像を作り、電話やWeb会議を通じて従業員をだませるようになった。
人間は、文字だけのメッセージよりも、見慣れた人物の声や映像を信用しやすい。攻撃者はこうした心理を利用し、パスワードやアクセス権限の変更、送金、機密情報の共有などを要求する。
この脅威に対応するため、フィッシング訓練ツールも進化している。AIで作成したディープフェイク音声や映像を使い、電話、SMS、メール、チャット、Web会議といった複数の経路から攻撃を再現する製品が登場している。
ディープフェイク対応のフィッシング訓練ツールを導入するかどうかは、他のセキュリティ投資と同様、想定されるリスクと導入コストを比較して判断する必要がある。
こうしたツールは、一般的なメール型のフィッシング訓練と比べて高額になりやすい。導入の検討に当たっては、従業員がソーシャルエンジニアリング攻撃を受けた場合に生じる損失額と、実際に攻撃が成功する可能性を見積もる必要がある。
例えば、CIO（最高情報責任者）を装った人物から「緊急対応としてデータセンターを社内ネットワークから切り離してほしい」と電話がかかってきたとする。担当者が指示に従えば、サービス停止や業務中断によって、数十万ドルから数百万ドル規模の損失が生じる可能性がある。
個人を特定できる情報や、企業の知的財産、未公開の製品情報などが漏えいするリスクもある。1人の従業員の判断ミスが事業継続に重大な影響を及ぼす企業であれば、高額な訓練ツールへの投資も合理化しやすい。
判断材料として、ディープフェイクを作るための素材がインターネット上にどれだけ公開されているかも確認する必要がある。
CEOやCTO（最高技術責任者）、CISO、社内の専門家が、講演会やポッドキャスト、ウェビナーなどに登場している場合、その映像や音声がディープフェイクの材料になる。YouTubeなどで長時間の映像が公開されていれば、攻撃者は本人に似た声や話し方を再現しやすくなる。
企業幹部が著名なカンファレンスで講演した映像や、自社の公式動画で話している音声も、攻撃者にとっては有用な素材である。公開情報が多い企業ほど、ディープフェイクを使ったなりすましのリスクは高まる。
自社がどの程度ディープフェイク攻撃に弱いのか分からない場合、特性の製品を短期契約したり、試用版を使ったりして限定的な訓練を実施する選択肢もある。
一部のベンダーは、顧客向けに試用版を提供している場合がある。実際に従業員が偽の音声や映像を信じるかどうかを確認できれば、導入の必要性や訓練対象の範囲を判断しやすい。
ただし、訓練の目的は従業員を驚かせたり、失敗者を処罰したりすることではない。どのような状況で判断を誤りやすいのかを把握し、研修、承認プロセス、本人確認手順などを改善することが重要だ。
従来のフィッシング訓練では、偽メールのリンクをクリックした人数や、認証情報を入力した人数が主要な指標として使われてきた。
ディープフェイクを使った訓練では、さらに幅広い行動を測定できる。
例えば、従業員が偽の電話を受けてアクセス権限を変更したか、送金手続きを開始したか、機密情報を伝えたかを確認する。攻撃を見破った従業員についても、単に指示を拒否したかどうかだけでなく、セキュリティ部門へ報告したか、報告までにどれだけ時間がかかったかを測る必要がある。
セキュリティ部門が持つデータが増えれば、研修や業務プロセスをより具体的に改善できる。部署別、職種別、役職別に傾向を分析し、狙われやすい従業員や、特定の要求に弱い業務を重点的に対策できるためだ。
ディープフェイク訓練では、人間の心理や反応についても細かく検証できる。
従業員は、上司から懇願される場合と脅される場合のどちらに弱いのか。緊急事態を装った指示と、日常的で単調な依頼では、どちらを信用しやすいのか。声の調子や話し方によって反応率は変わるのか。偽装した人物の性別や外見は判断に影響するのか――。
こうしたデータを活用すれば、全従業員に同一の研修を繰り返すのではなく、組織の弱点に応じた訓練や業務改善を実施できる。
ディープフェイク対応のフィッシング訓練製品を選ぶ際は、少なくとも以下の機能を確認する必要がある。
品質が低く、明らかに偽物だと分かる音声や映像では、実際の攻撃に対する耐性を測りにくい。
Webサイトや動画共有サービス、SNS、講演記録などを調査するOSINT（オープンソースインテリジェンス）機能があれば、攻撃者がどのような情報を利用できるのかも把握しやすい。
あらかじめ録音された音声を再生するだけでなく、従業員の返答に合わせて会話を継続できれば、より現実に近い訓練になる。
Web会議で質問を受けた際に応答できるかどうか、確認する。
例えば、最初にメールを送り、その後SMSや電話で対応を急がせる。あるいは、チャットで連絡した後、偽のWeb会議に誘導する。攻撃者は複数の経路を使って信頼性を高めるため、訓練にも同様の仕組みが必要になる。
既存のフィッシング訓練ツールやセキュリティ教育サービスとの連携性も確認しておきたい。全従業員を対象にした一斉訓練だけでなく、経理担当者やシステム管理者、経営幹部の秘書など、特定の人物を狙ったスピアフィッシング訓練を簡単に実行できるかどうかも重要だ。
高度な機能を利用する際の学習コスト、管理画面の使いやすさ、訓練シナリオの作成負荷も比較する必要がある。グローバル企業の場合は、業務で使用する言語に対応しているか、事業を展開する地域の法令やコンプライアンス要件を満たせるかも確認しなければならない。
ディープフェイク対応のフィッシング訓練市場には、AIを使った新しい攻撃への対応に特化したスタートアップと、既存のセキュリティ教育事業者が参入している。
現時点ではスタートアップの存在感が大きいが、今後は既存のセキュリティ教育ベンダーによる買収や機能統合が進む可能性がある。主な製品やサービスは以下だ。
公開情報を基にディープフェイク映像や音声を作成し、メール、音声通話、SMS、チャットを組み合わせた訓練を実行する。医療、教育、宿泊業など複数の業界に対応している。
OSINTで収集した情報を使い、複数段階にわたる攻撃シナリオを構築する。ディープフェイク映像や音声クローンを含む複数チャネルの攻撃を連携させ、対象者の反応に応じてシナリオをリアルタイムに変化させる。
カスタム音声クローンを使った会話型AIによる電話攻撃を提供する。電話を使ったボイスフィッシングとメール型フィッシングを組み合わせ、公開情報を基にした訓練を実施する。
ディープフェイク音声や映像を使った複数チャネルの模擬攻撃に対応する。やりとりは事前に作成したシナリオに基づき、通信状態の悪さを装って映像や音声の遅延、不自然さを隠す。ただし、自由な内容で会話を続ける機能には対応しない。ZoomやMicrosoft Teams、Google Meetに似せた偽の画面を使用し、訓練環境の外部に影響が及ばないようにする。従業員が攻撃にだまされた場合は、その場で短時間の教育を実施する。
セキュリティトレーニング事業を手掛けるKnowBe4は2026年、「Deepfake Training Content Agent」を発表した。経営幹部など、本人の同意を得た社内関係者の音声や映像をアップロードすると、訓練用のディープフェイクを作成できる。
ディープフェイク対応の訓練ツールは、従業員が偽の音声や映像を見破れるかどうかを確認する手段になる。しかし、全ての従業員が声や映像の真偽を正確に判断できるようになるとは限らない。
そのため、研修にこだわらず、送金や権限の変更、機密情報の共有といった重要な操作では、複数人による承認や別の通信経路を使った本人確認を組み込むといった手法を利用することが肝要だ。「経営幹部からの指示であっても、電話やWeb会議だけでは実行しない」といったルールを明文化することも有効だ。
製品選定では、機能の多さだけでなく、自社の業界や地域での導入実績、サポート体制、財務の安定性も評価する。ベンチャーキャピタルからの資金調達に依存するスタートアップの場合、サービスを長期的に利用できるかどうか見通しを立てる。
ディープフェイク攻撃は、音声や映像の違和感だけを手掛かりに見破ることが難しくなっている。企業に求められるのは、従業員に「偽物を見抜く能力」だけを求めることではない。だまされることを前提に、訓練、本人確認、承認手順、報告体制を組み合わせ、多層的に被害を防ぐ仕組みを構築することだ。
Copyright © ITmedia, Inc. All Rights Reserved.
瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓
MFA（多要素認証）を入れたから安心という常識が崩れ去っている。フィッシング集団「Tycoon2FA」が摘発されたが、脅威が完全になくなったというわけではない。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年5月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
ITmediaはアイティメディア株式会社の登録商標です。
