攻撃者が生成AIツールを悪用する動きが見られ、生成AIツールは組織のセキュリティを大きく変えようとしている。攻撃者は生成AIツールを何に使い、組織は何に注意すべきなのか。
MicrosoftとAI(人工知能)ベンダーOpenAI によれば、サイバー犯罪集団が「生成AI」(ジェネレーティブAI)を悪用した攻撃活動を活発化させている。生成AIはエンドユーザーの指示を基にテキストや画像、音声などのデータを生成する人工知能(AI)技術だ。攻撃者は生成AIをどのように使って標的の組織を狙っているのか。
MicrosoftはAIベンダーOpenAIと密に連携しながら、AI技術の開発や、活用促進に注力している。そうした中でMicrosoftが運営するセキュリティ専門家コミュニティーMicrosoft Threat IntelligenceとOpenAIは2024年2月、OpenAIのAIチャットbot「ChatGPT」をはじめ、大規模言語モデル(LLM)をベースとした生成AIツールが攻撃に悪用され始めていることを明らかにした。
Microsoft Threat IntelligenceとOpenAIによれば、攻撃者は以下の目的で生成AIを悪用している。
生成AIツールをマルウェア開発におけるソースコードの作成に取り入れているサイバー犯罪集団があるともMicrosoftはみている。今後、サイバー犯罪集団による生成AIツールの悪用はさらに広がる可能性がある。
現時点では生成AIツールを使った大規模な攻撃は観察していないが、今後の動きに注意する必要があると、Microsoft Threat IntelligenceとOpenAIは説明する。「早い段階で注意喚起することにより、危機感を持ってセキュリティの強化に取り組んでもらいたい」(Microsoft Threat Intelligence)
Microsoftのチーフサイバーセキュリティアドバイザー、ブレット・アーセナル氏によると、生成AIは「攻撃」に悪用されるだけではなく、攻撃を受ける組織が「防御」を強化するために活用できる技術でもある。「組織はこの2つの視点からセキュリティの仕組みを考え直さなければならない」とアーセナル氏は述べる。
例えば組織は、生成AIツールを使うことで脅威の検出や対処の効率化を図れる。これは特にセキュリティ人材が不足する組織にとって、生成AIツールを活用するメリットになると考えられる。
中編は、生成AIツールの利用に取り組んでいるサイバー犯罪集団の具体例を取り上げる。
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
従来のSOCは、AIや機械学習を用いた高度な攻撃に対処できなくなりつつあり、可視性とコンテキストの欠如や検証の複雑化など、さまざまな課題が山積している。この状況を改善するには、人手に頼ったSOCモデルから脱却する必要がある。
比較的新しい製品分野である「SD-WAN」にも、早くも変化が起こり始めている。SD-WANは今後、どう進化するのか。「SASE」といった関連技術との関係性を踏まえながら、“次世代SD-WAN”の方向性を探る。
ランサムウェア以外にもさまざまなサイバー攻撃が企業を襲い続けているが、重大なセキュリティインシデントへの対策を適切に行えている企業は今も少ない。その理由や、状況を改善するための4つのステップを詳しく解説する。
サイバー攻撃による被害は、金銭的な損失だけでなく、信用の失墜や業務継続への支障といった経営上のリスクに直結する。このようなリスクへの備えとして有効なのが、「脆弱性診断」だ。脆弱性診断の目的や実践方法について解説する。
昨今、組織のネットワーク外に分散したエンドポイントが、攻撃者にとって格好の標的になっている。このような中でエンドポイント保護の新たな形として期待を寄せられているのがEDRだ。しかし、運用が難しいなどの課題も多い。
「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ
ネットワークの問題は「帯域幅を増やせば解決する」と考えてはいないだろうか。こうした誤解をしているIT担当者は珍しくない。ネットワークを快適に利用するために、持つべき視点とは。
「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...