人工知能悪用にFBIが警鐘
北朝鮮ハッカー、身分を装い米国企業に「入社」 AIでできる驚きの攻撃とは
人工知能(AI)技術を悪用し、攻撃の手口を巧妙化させる動きが加速化している。FBIも動いた、AI技術が可能にする「見破りにくい攻撃」とはどのようなものなのか。
攻撃者が標的をだます手口は、不正リンクをクリックさせたり、送金させたりするだけではない。新たな手口として、人工知能(AI)技術を使ったツールの悪用が広がっている。米連邦捜査局(FBI)がまとめた報告書を基に、AI技術の力を借りたソーシャルエンジニアリング(人の心理を巧みに操って意図通りの行動をさせる詐欺手法)の手口と、それに対抗するためのポイントを探る。
ここまで可能になった“AI技術を悪用した攻撃”
併せて読みたいお薦め記事
AI技術は攻撃にも使われ始めている
FBIはこのほどまとめた報告書で「犯罪者はAIツールを悪用することで被害者を信用させ、詐欺行為を大規模に展開している」と警鐘を鳴らす。FBIによると、AI技術は例えば以下の目的で使われている。
- おおむね文法が正しく、表現も自然な文章の生成
- 著名人やビジネス関係者を装った画像や音声の生成
- SNS(ソーシャルネットワーキングサービス)のプロフィール作成
FBIによれば、ソーシャルエンジニアリングの手口そのものは依然として変わっていないが、AI技術を利用することで、被害者にとっては詐欺であることを見破りにくくなっている。例えば、AI技術が生成した偽の動画や音声をビデオチャットに組み合わせれば、被害者は実在する人と会話していると信じ込んでしまう。「AIツールで偽の運転免許証や、警察官や銀行員を装った証明書が作成されることもある」(FBI)
推奨の予防策
FBIが推奨する予防策は以下の通りだ。
- 家族や職場で「自分が本物であることを証明する」ための合言葉を決めること
- できる限り、自分の画像や音声をインターネットで公開しないこと(攻撃に悪用される恐れがあるため)
- 常に攻撃を意識し、閲覧する画像や音声の「わずかな不自然さ」に敏感になること
AI技術を悪用した攻撃事例
FBIがAI技術を使ったソーシャルエンジニアリングについて注意を呼び掛けている背景には、攻撃の“成功事例”が増えていることがある。攻撃者の中には、ロシアや北朝鮮など国家が関わっている集団もあり、攻撃活動のさらなる活発化が予測される。2024年、AI技術が悪用された攻撃事例として下記の2つを挙げられる。
- 2024年初め、セキュリティトレーニング事業を手掛けるKnowBe4に、北朝鮮の攻撃者が身分を偽って入社。同社の機密情報へのアクセスを試みた。攻撃者はAI技術で生成された捏造(ねつぞう)動画「ディープフェイク」を用いて、4回にわたるビデオ面接を通過し、採用に至った。履歴書の作成にもAI技術が使用されていたとみられる。
- 2024年11月の米大統領選挙の前、ロシア政府に支援されるとみられるサイバー犯罪集団「Storm-1516」がAI技術によって生成された動画を使い、選挙関連の偽情報を発信していた。Microsoftが調査し、明らかにしている。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
3
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
4
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
5
「Windows Server 2028」、初のIntune対応をプレビュー PCとサーバを一元管理へ
-
6
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
7
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
8
AI利用時に情報漏えいが起きた場合の適切な対応はどれ?
-
9
「企業のサーバ環境と調達・価格動向」に関するアンケート
-
10
なぜ「ChatGPT」連携の拡張機能が情報漏えいの入り口になるのか?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
5
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー