「大規模言語モデル」(LLM)が犯罪さえも根幹から変えてしまう脅威ChatGPTが犯罪に使われるリスク【前編】

ユーロポール(欧州刑事警察機構)は、「ChatGPT」が基礎にしているような「LLM」を犯罪者が悪用した場合の危険性について、法執行機関に勧告した。どのようなリスクが考えられるのか。

2023年06月09日 07時15分 公開
[Alex ScroxtonTechTarget]

関連キーワード

人工知能


 ユーロポール(欧州刑事警察機構)のイノベーションラボは、2023年3月に「ChatGPT - the impact of Large Language Models on Law Enforcement」という報告書を公開。大規模言語モデル(LLM)が犯罪発生状況に与えるプラスとマイナスの影響について法執行機関に勧告した。

 この報告書は、サイバー犯罪者に限らず犯罪者全般がLLMをどう悪用するのか、将来LLMは捜査当局にどう役立つのかといった可能性を探るために、さまざまな研究や専門家の知見をまとめている。LLMが悪用されることで起こり得るリスクとはどのようなものか。

犯罪者なら「もっともらしい文章」を生成するLLMをどう悪用するのか

会員登録(無料)が必要です

 ユーロポールはこの報告書の目的について、「LLMが悪用される可能性についての認識を高め、AI(人工知能)ベンダーが安全性を高める施策に取り組むことを支援し、安全で信頼できるAIシステムの開発を促進すること」と説明する。

 本報告書では、LLMのようなAI技術が犯罪者に悪用される可能性について悲観的な見解を示し、以下3つの懸念事項を指摘した。

  1. LLMは言語パターンを再現し、特定の個人やグループのスタイルをまねてなりすますことができる。効果的なフィッシング詐欺用の文章を作成する目的でLLMを使えば、リアリティーのある文章を大量に、大規模に生成できる。
  2. LLMはもっともらしいテキストを高速かつ大規模に作成できる。そのためプロパガンダや偽情報の作成に適している。
  3. LLMはさまざまなプログラミング言語で、使用可能なソースコードを生成する能力がある。この能力は、新しいマルウェアやランサムウェア(身代金要求型マルウェア)を作成するツールとして、サイバー犯罪者に使用される可能性がある。現時点のサイバーセキュリティコミュニティーでは、LLMが影響を及ぼすようになるのはもう少し先のことになると考えられているが、技術の発展とともに状況は変わる可能性がある。

 中編はユーロポールが報告書で指摘した「LLMの犯罪利用に備えて法執行機関が考慮すべきこと」について解説する。

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

新着ホワイトペーパー

製品資料 日本ヒューレット・パッカード合同会社

企業データのうち分析されるのはわずか24%、その活用度を高める方法は?

多くの企業がデータ活用を模索しているが、問題となるのがデータサイロだ。この状態を放置しては、データを活用しきれず、分析の精度も低くなってしまう。この問題を乗り越えるために、データ環境をどう整備すればよいのだろうか。

市場調査・トレンド 日本アイ・ビー・エム株式会社

最高サプライチェーン責任者たちが示す、最新テクノロジーを活用した課題解決策

生成AIが急速に進歩した今、サプライチェーン対策においてもこの活用は必須といえる状況だ。他にも多様なテクノロジーが登場する中、企業の最高サプライチェーン責任者たちは、数々の課題解決にどのように取り組もうとしているのか。

製品資料 日本アイ・ビー・エム株式会社

サプライチェーン責任者が今注目したい、生成AI導入・活用を成功に導くポイント

先の読めない地政学的状況や各国・地域の貿易政策、そして次々と施行される規制・ルールに対し、企業でサプライチェーンを担当する責任者たちは休む暇のない状況に日々直面している。そこで注目したいのが、生成AIを活用した取り組みだ。

市場調査・トレンド 日本アイ・ビー・エム株式会社

サプライチェーン変革に向けた生成AI活用、経営層が今知っておくべき3つのこと

サプライチェーンの生産性と予測分析の精度をどのように高めていくかが、多くの経営者にとって課題となっている。そのためには、自動化・合理化によるイノベーションを進めることが必要だ。その鍵となるのが、生成AIだという。

製品資料 双日テックイノベーション株式会社

AI活用やデータ活用を見据えた基盤の理想形? 今注目の「データレイクハウス」

適切かつ迅速な意思決定の原資となるデータの活用に向けて、多くの組織がシステム基盤の構築に取り組んでいる。そこで注目されているのが、データ活用基盤をクラウド上に構築して、運用するという選択肢だ。

From Informa TechTarget

お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。

ITmedia マーケティング新着記事

news074.jpg

FacebookとInstagramの広告品質強化へ Metaが「ブロックリスト」対応を拡大
Metaは、広告掲載におけるサードパーティーのブロックリストのサポートを拡大し、従来のI...

news129.jpg

イーロン・マスク氏 vs マーク・ザッカーバーグ氏 嫌われ度対決の行方は?
イーロン・マスク氏とマーク・ザッカーバーグ氏。時代の寵児である2人だが、必ずしも好意...

news065.jpg

サードパーティーCookie廃止で“オワコン”SEOが再注目される理由
GoogleはWebブラウザ「Chrome」におけるサードパーティーCookie廃止を撤回しましたが、プ...