「大規模言語モデル」(LLM)が犯罪さえも根幹から変えてしまう脅威ChatGPTが犯罪に使われるリスク【前編】

ユーロポール(欧州刑事警察機構)は、「ChatGPT」が基礎にしているような「LLM」を犯罪者が悪用した場合の危険性について、法執行機関に勧告した。どのようなリスクが考えられるのか。

2023年06月09日 07時15分 公開
[Alex ScroxtonTechTarget]

関連キーワード

人工知能


 ユーロポール(欧州刑事警察機構)のイノベーションラボは、2023年3月に「ChatGPT - the impact of Large Language Models on Law Enforcement」という報告書を公開。大規模言語モデル(LLM)が犯罪発生状況に与えるプラスとマイナスの影響について法執行機関に勧告した。

 この報告書は、サイバー犯罪者に限らず犯罪者全般がLLMをどう悪用するのか、将来LLMは捜査当局にどう役立つのかといった可能性を探るために、さまざまな研究や専門家の知見をまとめている。LLMが悪用されることで起こり得るリスクとはどのようなものか。

犯罪者なら「もっともらしい文章」を生成するLLMをどう悪用するのか

 ユーロポールはこの報告書の目的について、「LLMが悪用される可能性についての認識を高め、AI(人工知能)ベンダーが安全性を高める施策に取り組むことを支援し、安全で信頼できるAIシステムの開発を促進すること」と説明する。

 本報告書では、LLMのようなAI技術が犯罪者に悪用される可能性について悲観的な見解を示し、以下3つの懸念事項を指摘した。

  1. LLMは言語パターンを再現し、特定の個人やグループのスタイルをまねてなりすますことができる。効果的なフィッシング詐欺用の文章を作成する目的でLLMを使えば、リアリティーのある文章を大量に、大規模に生成できる。
  2. LLMはもっともらしいテキストを高速かつ大規模に作成できる。そのためプロパガンダや偽情報の作成に適している。
  3. LLMはさまざまなプログラミング言語で、使用可能なソースコードを生成する能力がある。この能力は、新しいマルウェアやランサムウェア(身代金要求型マルウェア)を作成するツールとして、サイバー犯罪者に使用される可能性がある。現時点のサイバーセキュリティコミュニティーでは、LLMが影響を及ぼすようになるのはもう少し先のことになると考えられているが、技術の発展とともに状況は変わる可能性がある。

 中編はユーロポールが報告書で指摘した「LLMの犯罪利用に備えて法執行機関が考慮すべきこと」について解説する。

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

隴�スー騾ケツ€郢晏ク厥。郢ァ�、郢晏現�ス郢晢スシ郢昜サ」�ス

製品資料 グーグル・クラウド・ジャパン合同会社

約80%の企業でAIが定着していない? その理由と成功させるためのポイントとは

生成AIを活用して業務や顧客体験の再構築を進める動きが活性化しているが、その多くが、PoCやラボ環境の段階にとどまっている。なぜなら、生成AIの可能性を最大限に引き出すための、インフラのパフォーマンスが不十分だからだ。

市場調査・トレンド グーグル・クラウド・ジャパン合同会社

ソフトウェア開発ライフサイクルにおける、生成AI活用のポイントを考察する

昨今のソフトウェア開発では、AIコーディングアシスタントの活用が主流になっている。しかし、最適なコーディングアシストツールは、開発者や企業によって異なるという。導入の際は、どのようなポイントに注意すればよいのか。

製品資料 グーグル・クラウド・ジャパン合同会社

データベースをモダナイズし、生成AIを最大限に活用する方法とは?

生成AIの活用にはデータベースが重要となるが、従来のデータベースは最新テクノロジーに対応できないなどの課題がある。本資料では、データベースをモダナイズし、生成AIを用いてビジネスイノベーションを生み出すための方法を探る。

製品資料 グーグル・クラウド・ジャパン合同会社

検索体験と結果の質をどう高める? ユーザーに喜ばれる検索体験を実現する方法

ビジネスにおいて、検索体験およびその結果の質の向上が重要なテーマとなっている。顧客はもちろん、自社の従業員に対しても、実用的な答えをより迅速に、手間なく入手できる環境の整備が求められている。

事例 グーグル・クラウド・ジャパン合同会社

検索の効率化からデータ活用まで、生成AIの業務組み込み事例5選

登場以来ビジネスへの活用方法が模索されてきた生成AI。近年では業務組み込みにおける具体的な成功例が数多く報告されている。本資料では、5件の生成AI活用事例を交えて、業務に組み込む上での具体的なアプローチを解説する。

郢晏生ホヲ郢敖€郢晢スシ郢ァ�ウ郢晢スウ郢晢ソスホヲ郢晢ソスPR

From Informa TechTarget

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。

繧「繧ッ繧サ繧ケ繝ゥ繝ウ繧ュ繝ウ繧ー

2025/05/11 UPDATE

「大規模言語モデル」(LLM)が犯罪さえも根幹から変えてしまう脅威:ChatGPTが犯罪に使われるリスク【前編】 - TechTargetジャパン エンタープライズAI 隴�スー騾ケツ€髫ェ蛟�スコ�ス

TechTarget郢ァ�ク郢晢ス」郢昜サ」ホヲ 隴�スー騾ケツ€髫ェ蛟�スコ�ス

ITmedia マーケティング新着記事

news025.png

「マーケティングオートメーション」 国内売れ筋TOP10(2025年5月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。

news014.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news046.png

「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。