「大規模言語モデル」（LLM）が犯罪さえも根幹から変えてしまう脅威

ユーロポール（欧州刑事警察機構）は、「ChatGPT」が基礎にしているような「LLM」を犯罪者が悪用した場合の危険性について、法執行機関に勧告した。どのようなリスクが考えられるのか。

公開 2023年06月09日 07時15分

更新 2023年06月28日 10時27分

著者

Alex Scroxton

[TechTarget]

印刷する連載新着通知を受け取る

　ユーロポール（欧州刑事警察機構）のイノベーションラボは、2023年3月に「ChatGPT - the impact of Large Language Models on Law Enforcement」という報告書を公開。大規模言語モデル（LLM）が犯罪発生状況に与えるプラスとマイナスの影響について法執行機関に勧告した。

　この報告書は、サイバー犯罪者に限らず犯罪者全般がLLMをどう悪用するのか、将来LLMは捜査当局にどう役立つのかといった可能性を探るために、さまざまな研究や専門家の知見をまとめている。LLMが悪用されることで起こり得るリスクとはどのようなものか。

犯罪者なら「もっともらしい文章」を生成するLLMをどう悪用するのか

併せて読みたいお薦め記事

生成AI関連の注目トピック

　ユーロポールはこの報告書の目的について、「LLMが悪用される可能性についての認識を高め、AI（人工知能）ベンダーが安全性を高める施策に取り組むことを支援し、安全で信頼できるAIシステムの開発を促進すること」と説明する。

　本報告書では、LLMのようなAI技術が犯罪者に悪用される可能性について悲観的な見解を示し、以下3つの懸念事項を指摘した。

LLMは言語パターンを再現し、特定の個人やグループのスタイルをまねてなりすますことができる。効果的なフィッシング詐欺用の文章を作成する目的でLLMを使えば、リアリティーのある文章を大量に、大規模に生成できる。
LLMはもっともらしいテキストを高速かつ大規模に作成できる。そのためプロパガンダや偽情報の作成に適している。
LLMはさまざまなプログラミング言語で、使用可能なソースコードを生成する能力がある。この能力は、新しいマルウェアやランサムウェア（身代金要求型マルウェア）を作成するツールとして、サイバー犯罪者に使用される可能性がある。現時点のサイバーセキュリティコミュニティーでは、LLMが影響を及ぼすようになるのはもう少し先のことになると考えられているが、技術の発展とともに状況は変わる可能性がある。

　中編はユーロポールが報告書で指摘した「LLMの犯罪利用に備えて法執行機関が考慮すべきこと」について解説する。

Computer Weekly発　世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

印刷する

Computer Weekly発　世界に学ぶIT導入・活用術

連載新着通知を受け取る

この連載の記事をもっと見る

この記事の著者

Alex Scroxton

米TechTargetの電子週刊誌『Computer Weekly』でセキュリティ分野の記事編集を手掛ける。同社の電子月刊誌『MicroScope』で記者を務めた後、2014年5月からComputer Weeklyの編集に従事。2003年、サセックス大学（University of Sussex）で社会人類学の学士号を取得している。