Microsoftが警鐘を鳴らす「生成AI攻撃」【前編】
攻撃者は「ChatGPT」で何を調べているのか？ “AI悪用”じわり広がる実態
攻撃者が生成AIツールを悪用する動きが見られ、生成AIツールは組織のセキュリティを大きく変えようとしている。攻撃者は生成AIツールを何に使い、組織は何に注意すべきなのか。
MicrosoftとAI（人工知能）ベンダーOpenAI によれば、サイバー犯罪集団が「生成AI」（ジェネレーティブAI）を悪用した攻撃活動を活発化させている。生成AIはエンドユーザーの指示を基にテキストや画像、音声などのデータを生成する人工知能（AI）技術だ。攻撃者は生成AIをどのように使って標的の組織を狙っているのか。
OpenAIとMicrosoftが警鐘 犯罪者は生成AIで何を調べているのか？
併せて読みたいお薦め記事
AIが「セキュリティ」にもたらすインパクト
MicrosoftはAIベンダーOpenAIと密に連携しながら、AI技術の開発や、活用促進に注力している。そうした中でMicrosoftが運営するセキュリティ専門家コミュニティーMicrosoft Threat IntelligenceとOpenAIは2024年2月、OpenAIのAIチャットbot「ChatGPT」をはじめ、大規模言語モデル（LLM）をベースとした生成AIツールが攻撃に悪用され始めていることを明らかにした。
Microsoft Threat IntelligenceとOpenAIによれば、攻撃者は以下の目的で生成AIを悪用している。
- 攻撃に関連する技術的な情報を調べる
- 標的システムに関連する脆弱（ぜいじゃく）性の情報を収集する
- 標的に関連する人物の情報を収集する
生成AIツールをマルウェア開発におけるソースコードの作成に取り入れているサイバー犯罪集団があるともMicrosoftはみている。今後、サイバー犯罪集団による生成AIツールの悪用はさらに広がる可能性がある。
現時点では生成AIツールを使った大規模な攻撃は観察していないが、今後の動きに注意する必要があると、Microsoft Threat IntelligenceとOpenAIは説明する。「早い段階で注意喚起することにより、危機感を持ってセキュリティの強化に取り組んでもらいたい」（Microsoft Threat Intelligence）
Microsoftのチーフサイバーセキュリティアドバイザー、ブレット・アーセナル氏によると、生成AIは「攻撃」に悪用されるだけではなく、攻撃を受ける組織が「防御」を強化するために活用できる技術でもある。「組織はこの2つの視点からセキュリティの仕組みを考え直さなければならない」とアーセナル氏は述べる。
例えば組織は、生成AIツールを使うことで脅威の検出や対処の効率化を図れる。これは特にセキュリティ人材が不足する組織にとって、生成AIツールを活用するメリットになると考えられる。
中編は、生成AIツールの利用に取り組んでいるサイバー犯罪集団の具体例を取り上げる。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[ゾーホージャパン株式会社] サイバー攻撃からネットワークを守る上で確実に押さえておきたいポイントとは？ -
事例
[アルプス システム インテグレーション株式会社] 中小企業でも安心して活用できる「手ごろなSOCサービス」とは？ -
製品資料
[株式会社シーイーシー] 脱VMwareに成功した企業は何をどう実践した？ 事例に学ぶ戦略立案＆実装のコツ -
製品資料
[株式会社オービックビジネスコンサルタント] ランサムウェア攻撃を“二重の防御構造”で防ぐ、クラウド型基幹システムの実力 -
製品資料
[株式会社オービックビジネスコンサルタント] 動画で知るランサムウェア被害企業のリアル、会計データが無事だった理由とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
2
鹿島建設のDXを阻む「10年前のAWS」 安全性と自由度を両立したモダナイズ
-
3
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
4
「レガシーシステム・老朽化システムの運用課題と刷新」に関するアンケート
-
5
AIの導入効果はどう測る？ DMM.comのエンジニア組織に学ぶ効果検証のノウハウ
-
6
「Excel管理」では限界――製造現場の改善が進まない“隠れた原因”
-
7
LINEヤフーはなぜ「社内の管理者」すら信用しないインフラを作ったのか
-
8
「また同じ説明か」 消費者の半数が離脱するAIチャットbotの“記憶喪失”
-
9
「企業内サーバ環境の利用実態」に関するアンケート
-
10
「ノートPC派」は損をしている？ Dellと考える“自作PC”のメリット
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
3
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
4
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
5
システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
-
6
生成AIを開発に導入しても効果が見えない？ 実証実験で分かった成果と課題
-
7
経産省DX指針から読み解く、受発注業務デジタル化ロードマップ
-
8
“あのファイル転送”で暗躍するノーウェアランサム
-
9
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
10
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー