イスラエルのセキュリティ企業KELAが公表
「兵器化したAI」が200％増 生成AIで氾濫する“闇ツール”の実態
イスラエルのセキュリティ企業KELAが2025年版AI脅威レポートを発表した。これによれば、悪意あるAIツールが過去12カ月で急増している。その実態とは。
イスラエルのセキュリティ企業KELAが2025年3月25日（現地時間）に公表したセキュリティ調査レポート「2025 AI Threat Report: How Cybercriminals are Weaponizing AI Technology」（2025年版AI脅威レポート：サイバー犯罪者はいかにしてAI技術を武器化しているか）によれば、不正なAI（人工知能）ツールが2024年に200％増加したことが分かった。KELAは「サイバー犯罪者たちは急速にAI戦術を進化させている」と警告している。
2025 AI Threat Report: How Cybercriminals are Weaponizing AI Technology：不正なAIツールが急増（出典：KELAのWebサイト）《クリックで拡大》
生成AIで氾濫する“闇ツール”の実態
併せて読みたいお薦め記事
企業ネットワークを狙う新手の攻撃
KELAが同レポートで報告した主な内容は、以下の通り。
ジェイルブレイキング（脱獄）手法の急速な進化
サイバー犯罪者は、ジェイルブレイキング（パプリックなAIサービスなどで実装されている、不正な利用を阻止するための安全機構をすり抜けること）の手法を急速に改善している。KELAではアンダーグラウンドのサイバー犯罪者のフォーラムでのジェイルブレイキング関連の議論が、2024年に対前年比52％増となったのを観測した。
サイバー犯罪者のフォーラムではAIを活用するサイバー犯罪者を多数発見
KELAの脅威インテリジェンスツールは、2024年に不正なAIツールや戦術についての言及が200％増加したことを記録。これはAI支援型サイバー犯罪のアンダーグラウンド市場が成長していることを示す。
不正なAIツールが激増
サイバー犯罪者たちはジェイルブレイキング済みのAIモデルやカスタマイズされた不正なAIツールとして「WormGPT」や「FraudGTP」、自動フィッシングツールやマルウェア生成ツール、詐欺実行ツールなどを配布／販売している。
AI駆動型のフィッシング・キャンペーンが洗練度が向上
AIで生成されたフィッシングメールやソーシャルエンジニアリング（人をターゲットにパスワード等を盗み出すような騙しの手法）戦術の洗練度が高まっている。例えば、ディープフェイクを活用し、企業の経営陣本人からの指示であるかのように従業員に誤認させて資金振込を実行させるといった手口がある。
AIの支援でマルウェア開発がより効率的に
サイバー犯罪者たちはランサムウェアやインフォスティーラー（情報窃取型マルウェア）をAIツールを活用してより洗練された検出しにくいものに進化させているため、セキュリティチームによる検知や被害軽減がより一層困難になってきている。
AI駆動型の防御策
KELAはこうした状況について次のように指摘している。「サイバー脅威状況は地殻変動的な変化を遂げている。サイバー犯罪者は単にAIを活用するだけでなく、AI支援型サイバー犯罪の実行を支援するためのアンダーグラウンドエコシステムを完成させつつある。企業側でもAI駆動型の防御策を導入することで増大する脅威に対抗していく必要がある」
同レポートの詳細はKELAの公式Webページ「2025 AI Threat Report: How Cybercriminals are Weaponizing AI Technology」から確認できる。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[LRM株式会社] 「標的型攻撃メール」事例・サンプル集 -
製品資料
[LRM株式会社] セキュリティ教育はなぜ「年間計画」を立てる必要があるのか？ -
製品資料
[LRM株式会社] セキュリティの重要性が伝わらない…… 効果がない社員教育から脱却する方法 -
製品資料
[LRM株式会社] 「標的型攻撃メール訓練」導入ガイド 社員の意識を確実に高める仕組みの作り方 -
事例
[株式会社マクニカ] アイカ工業に学ぶ脆弱性対策 情シスが把握できずにいたアセットも正確に把握
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「VMware離れ」は本当か 3000社がVCF 9にかじを切った現実的な理由
-
2
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
3
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
4
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
5
ISMSの“コンサル丸投げ”が招く数千万円の無駄 NTTドコモビジネスの脱出劇
-
6
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
7
Netflixのバックエンドは「ほぼJava」 3000超のアプリを支える開発基盤の裏側
-
8
エンジニアが選考を辞退する本当の理由 7割が隠す“面接の違和感”とは
-
9
「Windows派」「Linux派」を分ける決定的な違い
-
10
「技術屋」で終わらないために 情シスが今取るべき認定資格5選
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
8
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
9
Macの安全神話は崩壊？ 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
10
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー