ChatGPTが犯罪に使われるリスク【前編】
「大規模言語モデル」（LLM）が犯罪さえも根幹から変えてしまう脅威
ユーロポール（欧州刑事警察機構）は、「ChatGPT」が基礎にしているような「LLM」を犯罪者が悪用した場合の危険性について、法執行機関に勧告した。どのようなリスクが考えられるのか。
ユーロポール（欧州刑事警察機構）のイノベーションラボは、2023年3月に「ChatGPT - the impact of Large Language Models on Law Enforcement」という報告書を公開。大規模言語モデル（LLM）が犯罪発生状況に与えるプラスとマイナスの影響について法執行機関に勧告した。
この報告書は、サイバー犯罪者に限らず犯罪者全般がLLMをどう悪用するのか、将来LLMは捜査当局にどう役立つのかといった可能性を探るために、さまざまな研究や専門家の知見をまとめている。LLMが悪用されることで起こり得るリスクとはどのようなものか。
犯罪者なら「もっともらしい文章」を生成するLLMをどう悪用するのか
併せて読みたいお薦め記事
生成AI関連の注目トピック
ユーロポールはこの報告書の目的について、「LLMが悪用される可能性についての認識を高め、AI（人工知能）ベンダーが安全性を高める施策に取り組むことを支援し、安全で信頼できるAIシステムの開発を促進すること」と説明する。
本報告書では、LLMのようなAI技術が犯罪者に悪用される可能性について悲観的な見解を示し、以下3つの懸念事項を指摘した。
- LLMは言語パターンを再現し、特定の個人やグループのスタイルをまねてなりすますことができる。効果的なフィッシング詐欺用の文章を作成する目的でLLMを使えば、リアリティーのある文章を大量に、大規模に生成できる。
- LLMはもっともらしいテキストを高速かつ大規模に作成できる。そのためプロパガンダや偽情報の作成に適している。
- LLMはさまざまなプログラミング言語で、使用可能なソースコードを生成する能力がある。この能力は、新しいマルウェアやランサムウェア（身代金要求型マルウェア）を作成するツールとして、サイバー犯罪者に使用される可能性がある。現時点のサイバーセキュリティコミュニティーでは、LLMが影響を及ぼすようになるのはもう少し先のことになると考えられているが、技術の発展とともに状況は変わる可能性がある。
中編はユーロポールが報告書で指摘した「LLMの犯罪利用に備えて法執行機関が考慮すべきこと」について解説する。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社うるる] 「入札市場」攻略ガイド：効率的に落札するためのポイントを徹底解説 -
製品資料
[株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは？ -
市場調査・トレンド
[株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」 -
製品資料
[日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合／分離」を成功に導く秘訣 -
製品資料
[rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
2
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
3
半数がブルーカラー転向を視野に？ ベテランエンジニアを追い込む“54歳の壁”
-
4
Claude利用8割のGMO、AI人材の評価軸が「トークン管理」に変わった
-
5
AI導入が失敗する“真犯人”は現場のマニュアル 7割が陥る「標準化」のわな
-
6
被害額は過去最高額 それでも「サイバー犯罪者が捕まらない」3つの理由
-
7
「テザリング依存」に潜む落とし穴 “遅いVPN”を解消するネット構築術
-
8
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
9
「Wi-Fi 7」経由でWindowsが乗っ取られる？ 最高権限奪取の恐怖
-
10
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
7
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
8
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
9
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
10
「標的型攻撃メール」事例・サンプル集
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー