人工知能悪用にFBIが警鐘
北朝鮮ハッカー、身分を装い米国企業に「入社」 AIでできる驚きの攻撃とは
人工知能（AI）技術を悪用し、攻撃の手口を巧妙化させる動きが加速化している。FBIも動いた、AI技術が可能にする「見破りにくい攻撃」とはどのようなものなのか。
攻撃者が標的をだます手口は、不正リンクをクリックさせたり、送金させたりするだけではない。新たな手口として、人工知能（AI）技術を使ったツールの悪用が広がっている。米連邦捜査局（FBI）がまとめた報告書を基に、AI技術の力を借りたソーシャルエンジニアリング（人の心理を巧みに操って意図通りの行動をさせる詐欺手法）の手口と、それに対抗するためのポイントを探る。
ここまで可能になった“AI技術を悪用した攻撃”
併せて読みたいお薦め記事
AI技術は攻撃にも使われ始めている
FBIはこのほどまとめた報告書で「犯罪者はAIツールを悪用することで被害者を信用させ、詐欺行為を大規模に展開している」と警鐘を鳴らす。FBIによると、AI技術は例えば以下の目的で使われている。
- おおむね文法が正しく、表現も自然な文章の生成
- 著名人やビジネス関係者を装った画像や音声の生成
- SNS（ソーシャルネットワーキングサービス）のプロフィール作成
FBIによれば、ソーシャルエンジニアリングの手口そのものは依然として変わっていないが、AI技術を利用することで、被害者にとっては詐欺であることを見破りにくくなっている。例えば、AI技術が生成した偽の動画や音声をビデオチャットに組み合わせれば、被害者は実在する人と会話していると信じ込んでしまう。「AIツールで偽の運転免許証や、警察官や銀行員を装った証明書が作成されることもある」（FBI）
推奨の予防策
FBIが推奨する予防策は以下の通りだ。
- 家族や職場で「自分が本物であることを証明する」ための合言葉を決めること
- できる限り、自分の画像や音声をインターネットで公開しないこと（攻撃に悪用される恐れがあるため）
- 常に攻撃を意識し、閲覧する画像や音声の「わずかな不自然さ」に敏感になること
AI技術を悪用した攻撃事例
FBIがAI技術を使ったソーシャルエンジニアリングについて注意を呼び掛けている背景には、攻撃の“成功事例”が増えていることがある。攻撃者の中には、ロシアや北朝鮮など国家が関わっている集団もあり、攻撃活動のさらなる活発化が予測される。2024年、AI技術が悪用された攻撃事例として下記の2つを挙げられる。
- 2024年初め、セキュリティトレーニング事業を手掛けるKnowBe4に、北朝鮮の攻撃者が身分を偽って入社。同社の機密情報へのアクセスを試みた。攻撃者はAI技術で生成された捏造（ねつぞう）動画「ディープフェイク」を用いて、4回にわたるビデオ面接を通過し、採用に至った。履歴書の作成にもAI技術が使用されていたとみられる。
- 2024年11月の米大統領選挙の前、ロシア政府に支援されるとみられるサイバー犯罪集団「Storm-1516」がAI技術によって生成された動画を使い、選挙関連の偽情報を発信していた。Microsoftが調査し、明らかにしている。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[サイボウズ株式会社] DXに必要な「Dスキル」「Xスキル」を持った人材を育成するには？ -
市場調査・トレンド
[サイボウズ株式会社] データで見る、DXが「順調に進む企業」と「つまずく企業」の違い -
製品資料
[サイボウズ株式会社] 賛否が割れがちな「Notesからの移行」 新環境への移行を納得してもらうには？ -
事例
[ServiceNow Japan合同会社] 農林中金に学ぶ内製開発 処理効率を約2倍に高めAI活用も加速させた方法とは？ -
事例
[ServiceNow Japan合同会社] NTTグループのデジタル変革術、17万人が利用する決裁プロセス刷新の全貌
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
【基本情報技術者試験】「デュプレックスシステム」と「デュアルシステム」の違いは？
-
2
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
3
サーバ約70台をAWSへ ヤナセが移行前にやった「通信要件の可視化」
-
4
脱VMwareの真実：データセンター大手がNutanixを選んだ「コスト以上の理由」
-
5
MS月例パッチが1000件突破 人手不足の情シスを襲う「月1回メンテ」の崩壊
-
6
多品種小ロットの「手書き・配合ミス」を克服 キャニオンスパイスの食品工場DX
-
7
AIインフラの理想形？ 「5層のケーキ」を垂直統合するための近道とは
-
8
「Microsoft一択」で本当にいいのか 知らぬ間にライセンス費用が膨らむ真相
-
9
「AI活用」を掲げた年金刷新が炎上 英政府が大手ITアウトソースを切り捨て「内製回帰」した理由
-
10
「VMware離れ」は本当か 3000社がVCF 9にかじを切った現実的な理由
ホワイトペーパーランキング PR
-
1
生成AIのハルシネーションを防止 回答精度を高めるセマンティックレイヤーとは
-
2
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
3
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
4
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
5
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
6
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
7
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
8
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
-
9
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
10
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー