ChatGPTが犯罪に使われるリスク【中編】
「ChatGPTを使った犯罪」には「LLM」で備えよ――ユーロポール5つの提言
ユーロポール(欧州刑事警察機構)は、「ChatGPT」の中核要素である「大規模言語モデル」(LLM)が犯罪で悪用される可能性について検証。法執行機関が対策すべき具体的な指針を提言した。どういうことか。
ユーロポール(欧州刑事警察機構)のイノベーションラボは、2023年3月に発表した「ChatGPT - the impact of Large Language Models on Law Enforcement」という報告書の中で、AI(人工知能)チャットbot「ChatGPT」の中核要素である大規模言語モデル(LLM)が犯罪者に悪用される可能性について検証。想定し得るリスクに対して備えるよう、法執行機関に勧告した。LLMが犯罪で悪用される可能性を視野に入れ、法執行機関が考慮すべきこととは何か。
「AI技術が犯罪に使われる日」に備え、警察はどう対策すべきなのか
併せて読みたいお薦め記事
連載:ChatGPTが犯罪に使われるリスク
生成AI関連の注目トピック
報告書の中で、ユーロポールは法執行機関に向けて次のように提言する。
- LLMが悪用される可能性がある以上、犯罪目的で使用される抜け穴を見つけ、確実に防ぐ必要がある。
- 警察はデジタル犯罪だけでなく、影響がありそうなあらゆる犯罪分野を想定してLLMが及ぼす影響を理解し、予測し、犯罪の防止や調査をする必要がある。
- LLMを最大限に活用するために必要なスキルを組織内で開発、育成すべきだ。これにより、知識の構築と既存の専門知識の拡大を促し、LLMで適切な受け答えを引き出す方法を理解できるようになる。警察官は、LLMが作成したコンテンツの正確性や偏りを評価するための訓練が必要だ。
- 警察は外部の技術部門と連携して、LLMを応用した技術を開発する際に安全対策を考慮し、改善プロセスを継続的に実施できるようにする必要がある。
- 警察は、自組織の独自データでトレーニングし、カスタマイズした「プライベートLLM」の活用を検討する。ただし、プライベートLLM利用には倫理的な検討が必要だ。警察官によるLLMの悪用を防ぐために、新たなプロセスや安全措置を導入する必要がある。
後編は、ユーロポールの勧告に対するサイバーセキュリティ専門家の見解を紹介する。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
プレミアムコンテンツ
[アイティメディア株式会社] AI活用を成功に導く「オブジェクトストレージ」 NAS/SANの限界を突破するには -
プレミアムコンテンツ
[アイティメディア株式会社] 「性能ならSSD」「大容量ならHDD」はもう古い? 変わるストレージの常識 -
プレミアムコンテンツ
[アイティメディア株式会社] 「オンプレミス回帰」がまさかの失敗に クラウドをやめずに安くする最適化手法 -
事例
[発注ナビ株式会社] AI活用を成功させる企業とそうでない企業の違いとは? -
製品レビュー
[発注ナビ株式会社] システム開発「はじめの一歩」 押さえておきたい基礎知識と失敗を防ぐ方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「VMware vCenter」でゼロデイ悪用、PHPも修正――今朝の情シスニュース
-
3
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
4
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
5
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
6
積水化学工業が「SAP S/4HANA Cloud」の“全グループ導入”に踏み切った訳
-
7
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
8
“アジャイルの壁”に挑むオリックス生命がIBMの開発管理ツールを選んだ理由
-
9
「Chrome」「Edge」「Firefox」のメモリ使用量はどれだけ違う? 測定してみた
-
10
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365 Copilotを安全&効果的に活用するために必要な「2つの準備」
-
4
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
5
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
6
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
7
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
8
「Copilot Cowork」でこう変わる AIエージェント時代の新たな働き方とは
-
9
AI活用で激化する外部・内部リスク、取引先へ波及する脅威から守る対策とは?
-
10
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー