生成AIの“闇”が広がる――4カ国、5グループによる「生成AI悪用」の実態Microsoftが警鐘を鳴らす「生成AI攻撃」【中編】

国家支援型のサイバー犯罪集団が生成AIツールを利用した攻撃活動を繰り広げている。企業はどの国やサイバー犯罪集団からの、どのような攻撃を警戒すべきなのか。Microsoftの調査を基に説明する。

2024年04月09日 07時00分 公開
[Arielle WaldmanTechTarget]

 生成AI(エンドユーザーの指示を基にテキストや画像、音声などのデータを生成する人工知能技術)を悪用した攻撃活動が盛んだ。Microsoftは積極的に生成AIの開発に取り組む一方で、国家が支援するサイバー犯罪集団による生成AIツールの利用が広がっているとみて注意を呼び掛けている。活動が目立っているのは5つのサイバー犯罪集団だ。それぞれどの国との関連があり、攻撃活動に生成AIをどのように活用しているのか。

「生成AI」を悪用する5グループ 4カ国が関わる攻撃活動の実態とは

 Microsoftが運営しているセキュリティ専門家コミュニティー「Microsoft Threat Intelligence」は以下の5つのサイバー犯罪集団を詳しく調査しているという。それぞれ、特定の国家によって支援されているとみられる。

  • Forest Blizzard(Fancy BearやAPT28とも)
    • ロシア
  • Emerald Sleet
    • 北朝鮮
  • Charcoal Typhoon
    • 中国
  • Salmon Typhoon
    • 中国
  • Crimson Sandstorm
    • イラン(同国の軍隊組織であるイスラム革命防衛隊)

 Microsoft Threat Intelligenceの調査で分かった、各サイバー犯罪集団の主な動きをまとめてみよう。

Forest Blizzard

 Forest Blizzardはウクライナの軍事作戦を把握するために、大規模言語モデル(LLM)をベースとした生成AIツールを使用。衛星やレーダー技術の利用方法を調べている。

 上記の動きとは別に、Forest Blizzardは2023年12月、Microsoftのメールサーバ製品「Exchange Server」とメールサービス「Exchange Online」の脆弱(ぜいじゃく)性を悪用し、政府機関の他、防衛やエネルギーといった分野の企業を攻撃した。その際にも、生成AIツールを利用した可能性があるという。現在、Microsoftはこの脆弱性のパッチ(修正プログラム)を提供している。

Emerald Sleet

 Emerald Sleetは生成AIツールを利用し、北朝鮮に詳しい世界各国のシンクタンクや専門家を調査。脆弱性情報の収集やマルウェアのスクリプト記述、フィッシングメール作成にも生成AIツールを取り入れている。

 例えば、Emerald Sleetは生成AIツールによってMicrosoftのサポート診断ツール「Microsoft Support Diagnostic Tool」(MSDT)の脆弱性「CVE-2022-30190」(通称「Follina」)の情報を集めていた。生成AIツール利用の効果については、現時点で確かな情報を得られていないという。

Charcoal Typhoon

 Charcoal Typhoonは生成AIツールを使い、攻撃活動に必要な技術調査や脆弱性情報を収集。それに加えて、生成AIツールによって攻撃作業の効率化や自動化も図っている。

Salmon Typhoon

 Salmon Typhoonは著名な人物やさまざまな地域の情報、米国の内政問題などを把握するために、生成AIツールを利用している。

Crimson Sandstorm

 Crimson Sandstormは生成AIツールにより、ソーシャルエンジニアリング(人の心理を巧みに操って意図通りの行動をさせる詐欺手法)の手口の他、標的システムにおける防御策を調べている。


 後編は、生成AIツールを利用したソーシャルエンジニアリング攻撃のリスクと防御策を考える。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

譁ー逹€繝帙Ρ繧、繝医�繝シ繝代�

製品資料 パロアルトネットワークス株式会社

セキュリティ運用を変革、人手に頼ったSOCモデルから脱却する方法とは?

従来のSOCは、AIや機械学習を用いた高度な攻撃に対処できなくなりつつあり、可視性とコンテキストの欠如や検証の複雑化など、さまざまな課題が山積している。この状況を改善するには、人手に頼ったSOCモデルから脱却する必要がある。

技術文書・技術解説 株式会社インターネットイニシアティブ

“次世代SD-WAN”とは何なのか? 「SASE」との関係は

比較的新しい製品分野である「SD-WAN」にも、早くも変化が起こり始めている。SD-WANは今後、どう進化するのか。「SASE」といった関連技術との関係性を踏まえながら、“次世代SD-WAN”の方向性を探る。

製品資料 ServiceNow Japan合同会社

脅威はランサムウェアだけではない、重大なセキュリティインシデントをどう防ぐ

ランサムウェア以外にもさまざまなサイバー攻撃が企業を襲い続けているが、重大なセキュリティインシデントへの対策を適切に行えている企業は今も少ない。その理由や、状況を改善するための4つのステップを詳しく解説する。

製品資料 株式会社AGEST

経営上のリスクに備える、脆弱性診断の目的や実践方法

サイバー攻撃による被害は、金銭的な損失だけでなく、信用の失墜や業務継続への支障といった経営上のリスクに直結する。このようなリスクへの備えとして有効なのが、「脆弱性診断」だ。脆弱性診断の目的や実践方法について解説する。

製品資料 東京エレクトロン デバイス株式会社

高度なエンドポイントセキュリティを実現、EDRの課題を解消するアプローチとは

昨今、組織のネットワーク外に分散したエンドポイントが、攻撃者にとって格好の標的になっている。このような中でエンドポイント保護の新たな形として期待を寄せられているのがEDRだ。しかし、運用が難しいなどの課題も多い。

アイティメディアからのお知らせ

From Informa TechTarget

「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ

「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ
ネットワークの問題は「帯域幅を増やせば解決する」と考えてはいないだろうか。こうした誤解をしているIT担当者は珍しくない。ネットワークを快適に利用するために、持つべき視点とは。

ITmedia マーケティング新着記事

news017.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news027.png

「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。

news023.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...