「兵器化したAI」が200％増 生成AIで氾濫する“闇ツール”の実態：イスラエルのセキュリティ企業KELAが公表

イスラエルのセキュリティ企業KELAが2025年版AI脅威レポートを発表した。これによれば、悪意あるAIツールが過去12カ月で急増している。その実態とは。

[渡邉利和，著]

　イスラエルのセキュリティ企業KELAが2025年3月25日（現地時間）に公表したセキュリティ調査レポート「2025 AI Threat Report: How Cybercriminals are Weaponizing AI Technology」（2025年版AI脅威レポート：サイバー犯罪者はいかにしてAI技術を武器化しているか）によれば、不正なAI（人工知能）ツールが2024年に200％増加したことが分かった。KELAは「サイバー犯罪者たちは急速にAI戦術を進化させている」と警告している。

2025 AI Threat Report: How Cybercriminals are Weaponizing AI Technology：不正なAIツールが急増（出典：KELAのWebサイト）《クリックで拡大》

生成AIで氾濫する“闇ツール”の実態

併せて読みたいお薦め記事

企業ネットワークを狙う新手の攻撃

• Juniper製ルーターに「攻殻機動隊さながら」の高度マルウェア攻撃　その手口は
• 「防御策」が「侵入口」に？　Palo Altoファイアウォール用OSで脆弱性が発覚

　KELAが同レポートで報告した主な内容は、以下の通り。

ジェイルブレイキング（脱獄）手法の急速な進化

　サイバー犯罪者は、ジェイルブレイキング（パプリックなAIサービスなどで実装されている、不正な利用を阻止するための安全機構をすり抜けること）の手法を急速に改善している。KELAではアンダーグラウンドのサイバー犯罪者のフォーラムでのジェイルブレイキング関連の議論が、2024年に対前年比52％増となったのを観測した。

サイバー犯罪者のフォーラムではAIを活用するサイバー犯罪者を多数発見

　KELAの脅威インテリジェンスツールは、2024年に不正なAIツールや戦術についての言及が200％増加したことを記録。これはAI支援型サイバー犯罪のアンダーグラウンド市場が成長していることを示す。

不正なAIツールが激増

　サイバー犯罪者たちはジェイルブレイキング済みのAIモデルやカスタマイズされた不正なAIツールとして「WormGPT」や「FraudGTP」、自動フィッシングツールやマルウェア生成ツール、詐欺実行ツールなどを配布／販売している。

AI駆動型のフィッシング・キャンペーンが洗練度が向上

　AIで生成されたフィッシングメールやソーシャルエンジニアリング（人をターゲットにパスワード等を盗み出すような騙しの手法）戦術の洗練度が高まっている。例えば、ディープフェイクを活用し、企業の経営陣本人からの指示であるかのように従業員に誤認させて資金振込を実行させるといった手口がある。

AIの支援でマルウェア開発がより効率的に

　サイバー犯罪者たちはランサムウェアやインフォスティーラー（情報窃取型マルウェア）をAIツールを活用してより洗練された検出しにくいものに進化させているため、セキュリティチームによる検知や被害軽減がより一層困難になってきている。

AI駆動型の防御策

　KELAはこうした状況について次のように指摘している。「サイバー脅威状況は地殻変動的な変化を遂げている。サイバー犯罪者は単にAIを活用するだけでなく、AI支援型サイバー犯罪の実行を支援するためのアンダーグラウンドエコシステムを完成させつつある。企業側でもAI駆動型の防御策を導入することで増大する脅威に対抗していく必要がある」

　同レポートの詳細はKELAの公式Webページ「2025 AI Threat Report: How Cybercriminals are Weaponizing AI Technology」から確認できる。