ChatGPTが犯罪に使われるリスク【前編】
「大規模言語モデル」（LLM）が犯罪さえも根幹から変えてしまう脅威
ユーロポール（欧州刑事警察機構）は、「ChatGPT」が基礎にしているような「LLM」を犯罪者が悪用した場合の危険性について、法執行機関に勧告した。どのようなリスクが考えられるのか。
ユーロポール（欧州刑事警察機構）のイノベーションラボは、2023年3月に「ChatGPT - the impact of Large Language Models on Law Enforcement」という報告書を公開。大規模言語モデル（LLM）が犯罪発生状況に与えるプラスとマイナスの影響について法執行機関に勧告した。
この報告書は、サイバー犯罪者に限らず犯罪者全般がLLMをどう悪用するのか、将来LLMは捜査当局にどう役立つのかといった可能性を探るために、さまざまな研究や専門家の知見をまとめている。LLMが悪用されることで起こり得るリスクとはどのようなものか。
犯罪者なら「もっともらしい文章」を生成するLLMをどう悪用するのか
併せて読みたいお薦め記事
生成AI関連の注目トピック
ユーロポールはこの報告書の目的について、「LLMが悪用される可能性についての認識を高め、AI（人工知能）ベンダーが安全性を高める施策に取り組むことを支援し、安全で信頼できるAIシステムの開発を促進すること」と説明する。
本報告書では、LLMのようなAI技術が犯罪者に悪用される可能性について悲観的な見解を示し、以下3つの懸念事項を指摘した。
- LLMは言語パターンを再現し、特定の個人やグループのスタイルをまねてなりすますことができる。効果的なフィッシング詐欺用の文章を作成する目的でLLMを使えば、リアリティーのある文章を大量に、大規模に生成できる。
- LLMはもっともらしいテキストを高速かつ大規模に作成できる。そのためプロパガンダや偽情報の作成に適している。
- LLMはさまざまなプログラミング言語で、使用可能なソースコードを生成する能力がある。この能力は、新しいマルウェアやランサムウェア（身代金要求型マルウェア）を作成するツールとして、サイバー犯罪者に使用される可能性がある。現時点のサイバーセキュリティコミュニティーでは、LLMが影響を及ぼすようになるのはもう少し先のことになると考えられているが、技術の発展とともに状況は変わる可能性がある。
中編はユーロポールが報告書で指摘した「LLMの犯罪利用に備えて法執行機関が考慮すべきこと」について解説する。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[LRM株式会社] 「標的型攻撃メール」事例・サンプル集 -
製品資料
[LRM株式会社] セキュリティ教育はなぜ「年間計画」を立てる必要があるのか？ -
製品資料
[LRM株式会社] セキュリティの重要性が伝わらない…… 効果がない社員教育から脱却する方法 -
製品資料
[LRM株式会社] 「標的型攻撃メール訓練」導入ガイド 社員の意識を確実に高める仕組みの作り方 -
事例
[株式会社マクニカ] アイカ工業に学ぶ脆弱性対策 情シスが把握できずにいたアセットも正確に把握
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「VMware離れ」は本当か 3000社がVCF 9にかじを切った現実的な理由
-
2
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
3
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
4
AI全部入り「Microsoft 365 E7」に企業が二の足を踏む訳 移行意向はわずか4％
-
5
エンジニアが選考を辞退する本当の理由 7割が隠す“面接の違和感”とは
-
6
ISMSの“コンサル丸投げ”が招く数千万円の無駄 NTTドコモビジネスの脱出劇
-
7
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
8
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
9
Netflixのバックエンドは「ほぼJava」 3000超のアプリを支える開発基盤の裏側
-
10
GitHubが指摘 AIが書いた「おそらく動くコード」が招くシステム崩壊
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
8
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
9
Macの安全神話は崩壊？ 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
10
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー