セキュリティ責任者はどう対抗する
経営幹部の偽装で168億円送金 ディープフェイク詐欺を「訓練」で止められるか
ディープフェイク技術による詐欺はここ数年で急速に高度化している。経営幹部のリアルタイムな偽装による被害はなぜここまで拡大しているのか。サイバーセキュリティと法律の専門家が、従来の対策が通用しない理由を分析する。
生成AIによる動画・音声の複製技術が、ほぼ完璧な再現性に達するなか、ディープフェイクを利用した企業詐欺は、一部の注目を集めた特殊な事件から、企業が組織的に対処すべきリスクへと変化している。
過去1年間で、ビデオ会議でのなりすましや、合成された経営幹部を利用したソーシャルエンジニアリング攻撃が急増したことを受け、セキュリティ責任者は、本人確認と信頼の基本的な考え方を見直すことを迫られている。
急増するディープフェイク詐欺 1件で168億円の被害も
転換点となったのは2024年初頭だ。イギリスのエンジニアリング企業Arupの従業員が、ライブのビデオ会議中に、AIで生成された偽のCFO(最高財務責任者)や同僚にだまされ、2560万ドルの不正送金を承認した。
当時、この攻撃は極めて高度で、まれな事例と見なされていた。しかし、その後2年間の生成AIの進化によって、攻撃を実行するためのハードルは大幅に下がった。リアルタイムの合成映像によるなりすましは、繰り返し実行できる脅威へと変わった。
攻撃者は、ディープフェイクの利用にますます自信を深めている。Regulaの調査(Deepfake Trends 2024)によると、動画ディープフェイク詐欺を経験したと回答した企業の割合は、2022年の29%から2024年には49%に増加した。音声ディープフェイク詐欺も、同じ期間に37%から49%へ上昇している。Gartnerが2025年9月に公開した調査(Gartner Survey Reveals GenAI Attacks Are on the Rise)では、ソーシャルエンジニアリングや自動化されたプロセスの悪用を伴うディープフェイク攻撃を過去12カ月以内に経験した組織は62%に上っている。
この急増がもたらす現実の被害は、2026年9月に明らかになった。ロイターの報道によると、詐欺犯はAIによる音声クローンと人物のなりすましを利用し、イタリアの大手金融グループIntesa Sanpaolo傘下のプライベートバンク、Fideuramの経営幹部をだまして、合計9500万ユーロ(168億円)の送金を承認させた。
この事件は、これまでの被害規模の基準を大きく上回った。経営幹部へのリアルタイムのなりすましが、企業の財務部門にとって、急速にもっとも被害額の大きい脅威の一つへと変化していることを示した。
企業で経営幹部を標的としたディープフェイクが一般化するなか、セキュリティ担当者が知っておくべきことは何か。ソーシャルインテリジェンス企業Digのオファー・ファミリエ(Ofer Familier)氏(CEO兼共同創業者)が、CISO(最高情報セキュリティ責任者)が脅威を軽減する方法と共に解説した
経営幹部の知名度が攻撃の手助けに
ファミリエ氏は、ディープフェイクは直接的なセキュリティリスクに加え、組織に対する信頼を損なう可能性があると指摘した。
「経営幹部とのビデオ会議やCFOからの音声メッセージ、同僚からの緊急依頼などが、相手に行動を起こさせるほど説得力のある形で偽造できるようになりました。これにより、送金や認証情報、アクセス権、機密情報をめぐる非常に現実的なリスクが生じています」(ファミリエ氏)
同氏は、二次的な被害は業務の効率性にも表れると付け加えた。組織が被害を経験すると、人々は当然ながら慎重になる。以前なら10秒で承認できた依頼にも、追加の確認手順が必要になる。その慎重さは重要なものの、組織全体に摩擦を生み、その摩擦は実際の業務コストにつながってしまう。
デジタルプライバシーに関する法律は進化を続けているものの、国境を越えて活動するサイバー犯罪者に対して、法的な保護措置だけでは十分な防御にならない。生成AIツールが広く利用可能で、経営幹部の映像や音声がオンライン上に恒久的に残されている以上、ディープフェイクの生成自体を事前に防ぐことは事実上不可能だ。そのため、対策の負担は企業の防御体制に全面的に移っている。
CISOはディープフェイクによる被害の拡大をどう抑えるか
AIが生成した肖像やデジタル複製に関する問題に詳しい、Ellenoff Grossman & Scholeの知的財産権担当パートナー、シェリ・ファースト(Sherli Furst)氏は「企業は誰かがディープフェイクを作成すること自体を防ぐことはできません。しかし、従業員がそれを信じて行動することは防げます」としている。
ディープフェイクそのものを防ぐことが不可能である以上、脅威を抑えるには、境界防御から業務のレジリエンス(回復力・対応力)へと重点を移す必要がある。
ファミリエ氏は、ディープフェイク攻撃の特殊性を踏まえ、技術的な仕組みとデジタルコミュニケーションにおける信頼の両方を扱う、実践的なシナリオ訓練が必要だと主張する。
「従業員に『警戒してください』と伝えるだけでは、あまり役に立ちません。CFOがビデオ会議に登場して、緊急の送金を依頼するという現実的なシナリオを実際に体験させる方が、はるかに効果的です。そうすれば、実際に同じ状況が起きたときに、その状況を認識できるようになります」とファミリエ氏は助言する。
企業は訓練に加えて、社内外の誰に対しても適用される、厳格な「アウトオブバンド(別経路)による確認手順」を確立しなければならない。正当な財務依頼を行う経営幹部も例外ではない。
金銭や認証情報、アクセス権、機密データに関わる取引では、音声や映像による一度のやり取りだけに依存しない確認手段を必須とする必要がある。
McCarter & Englishの法律事務所のパートナーであり、米国インディアナ州南部地区の元連邦検事でもあるザカリー・マイヤーズ(Zachary Myers)氏は、次のように助言する。
「信頼できる通信経路を使って、取引やアカウントへのアクセスを確認すること。多要素認証を導入し、特定の操作について複数人の承認を求めること。こうした対策は、脅威から身を守るうえで大きな効果があります」
防御戦略は、社内の業務プロセスだけでなく、経営幹部の肖像が日常的に収集されたり、なりすましに利用されたりする外部のデジタルチャネルにも広げる必要がある。すべての攻撃を検知することは現実的ではないが、積極的に監視することで、公開プラットフォーム上に不正なコンテンツが残存する期間を短縮できる。
「検知技術も対策の一部ですが、それを戦略の基盤にすることには慎重であるべきです。生成技術は極めて速いペースで進化しており、生成と検知の間では、常に競争が続くことになるでしょう」(ファミリエ氏)
重要なのは、インシデントが発生した際の影響が、SOC(セキュリティオペレーションセンター)の対応範囲をはるかに超えるという点だ。
Furst氏は、法的な観点から見ると、ディープフェイクは詐欺やパブリシティー権、商標権、不正競争、著作権、名誉毀損などの問題を引き起こすと説明した。
対応では、差し迫ったセキュリティ上の脅威だけでなく、長期的な法的・評判上の損害にも対処する必要がある。セキュリティや法務、広報の各チームが連携することが重要だ。取引を停止してアカウントを保護し、証拠を保全した後に影響を受けた関係者に通知する。可能な限り不正コンテンツを削除する必要がある。
AIによる人物の肖像や音声を生成するプラットフォームが、ますます高度化し、説得力を増すなか、経営幹部が公開しているコンテンツは、攻撃のためのインフラになっている。
講演やポッドキャスト、インタビュー、LinkedInの動画、決算説明会などは、いずれもディープフェイク攻撃の素材になり得る。攻撃者は企業のシステムに侵入する必要さえない。企業が何年もかけて築き上げてきた信頼性を、そのまま借用すればよい。
「ディープフェイクは信頼を武器にします。従業員は不審なメールを疑うよう訓練されていますが、ビデオ会議でCEOやCFOが自分に直接話しかけているように見える場合、それを疑うことははるかに難しいのです」(ファースト氏)
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget ニュースプラス
国内のIT業界ニュースを迅速に報道します。企業動向から導入事例、市場トレンドまで幅広く取り上げ、実務に直結する情報をタイムリーに提供する連載です。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[SAS Institute Japan株式会社] 生成AIを予知保全に組み込むことで「産業設備保全」はどこまで進化できるのか -
市場調査・トレンド
[SAS Institute Japan株式会社] 製造企業が「AIによる価値創出」を迅速に実現する方法 -
技術文書・技術解説
[株式会社日立ソリューションズ] 開発と運用の分断を解消、実践知に基づくプラットフォームエンジニアリングとは -
事例
[株式会社日立ソリューションズ] 開発・運用の属人化をどう打破した? 日立ソリューションズの実践事例 -
技術文書・技術解説
[Eleven Labs Japan合同会社] 問い合わせ解決単価を約9割削減する試算も 音声AIエージェントのROIと活用例
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
2
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
3
Microsoft 365統一で「SharePoint」が1日2TB増 富士フイルムはどう管理した?
-
4
なぜ「Claude Code」拡張は消しても危ないのか? Cursorで不正版配信
-
5
8割がアナログに逆戻りする“やっぱりな理由” DXを阻む2つの落とし穴
-
6
停滞する製造業のDX、開発の生産性を高める可視化の実践方法
-
7
Web攻撃を受ける企業に共通するセキュリティ対策の誤り
-
8
IT人材不足は言い訳だ 採用を妨げる元凶は「スパゲティ状態」のシステム
-
9
ログインの「3回に1回は高リスク」 MFAだけでは防げない「正規認証」の悪用
-
10
脱VMwareの真実:データセンター大手がNutanixを選んだ「コスト以上の理由」
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
「テスト内製化&自動化」事例集:ディー・エヌ・エーなど9社に学ぶ実践のコツ
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
有識者が語る、中堅中小企業に求められる最新のサイバーセキュリティ対策とは
-
8
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
9
なぜRPA導入は頓挫する? シナリオ作成の壁を乗り越える解決策とは
-
10
進化が遅れる「電話」をアップデート、AIを搭載した次世代の通話機能とは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー