ChatGPTが犯罪に使われるリスク【中編】
「ChatGPTを使った犯罪」には「LLM」で備えよ――ユーロポール5つの提言
ユーロポール（欧州刑事警察機構）は、「ChatGPT」の中核要素である「大規模言語モデル」（LLM）が犯罪で悪用される可能性について検証。法執行機関が対策すべき具体的な指針を提言した。どういうことか。
ユーロポール（欧州刑事警察機構）のイノベーションラボは、2023年3月に発表した「ChatGPT - the impact of Large Language Models on Law Enforcement」という報告書の中で、AI（人工知能）チャットbot「ChatGPT」の中核要素である大規模言語モデル（LLM）が犯罪者に悪用される可能性について検証。想定し得るリスクに対して備えるよう、法執行機関に勧告した。LLMが犯罪で悪用される可能性を視野に入れ、法執行機関が考慮すべきこととは何か。
「AI技術が犯罪に使われる日」に備え、警察はどう対策すべきなのか
併せて読みたいお薦め記事
連載：ChatGPTが犯罪に使われるリスク
生成AI関連の注目トピック
報告書の中で、ユーロポールは法執行機関に向けて次のように提言する。
- LLMが悪用される可能性がある以上、犯罪目的で使用される抜け穴を見つけ、確実に防ぐ必要がある。
- 警察はデジタル犯罪だけでなく、影響がありそうなあらゆる犯罪分野を想定してLLMが及ぼす影響を理解し、予測し、犯罪の防止や調査をする必要がある。
- LLMを最大限に活用するために必要なスキルを組織内で開発、育成すべきだ。これにより、知識の構築と既存の専門知識の拡大を促し、LLMで適切な受け答えを引き出す方法を理解できるようになる。警察官は、LLMが作成したコンテンツの正確性や偏りを評価するための訓練が必要だ。
- 警察は外部の技術部門と連携して、LLMを応用した技術を開発する際に安全対策を考慮し、改善プロセスを継続的に実施できるようにする必要がある。
- 警察は、自組織の独自データでトレーニングし、カスタマイズした「プライベートLLM」の活用を検討する。ただし、プライベートLLM利用には倫理的な検討が必要だ。警察官によるLLMの悪用を防ぐために、新たなプロセスや安全措置を導入する必要がある。
後編は、ユーロポールの勧告に対するサイバーセキュリティ専門家の見解を紹介する。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[アトラシアン株式会社] IT運用や従業員サポートは生成AIでどう変わる？ 使い方や導入の流れは？ -
製品資料
[株式会社みらい翻訳] 音声翻訳活用の課題を解決、“本当に使える”ツールの特徴とは？ -
製品レビュー
[Wrike Japan 株式会社] 400店舗を支えるWalmart Canada、散在する情報やアナログな管理をどう変えた？ -
事例
[Wrike Japan 株式会社] 年間100件超のDXプロジェクトを統合管理、JERAはどのように実現した？ -
事例
[Wrike Japan 株式会社] グローバルなクリエイティブ業務を合理化、エスティーローダーに学ぶ実践のコツ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
全社標準Copilotに絶望？ MS Copilotで問い合わせ6割減できた企業は何が違った
-
2
身代金支払いは逆効果 情シスのためのランサムウェア対策ガイド2026
-
3
自社を守る「SCS評価制度」活用法 7割の企業が取引先起点の情報漏えいに直面
-
4
ランサムウェア、暗号化の89％は深夜 情シスが備える「夜間の空白」対策
-
5
多要素認証導入済みでもランサムウェア被害に 復旧費用は平均2億7000万円
-
6
「技術屋」で終わるか、部長へ昇格するか 今取りたい「IT×ビジネスの認定資格」5選
-
7
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
8
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
9
「AI活用を前提とした業務PCへの移行」に関するアンケート
-
10
AIエージェントを暴走させない設定、済んでますか？ 対策5選を専門家が紹介
ホワイトペーパーランキング PR
-
1
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
2
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
3
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
4
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
5
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
6
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
7
「スクラム」と「カンバン」の違いとは？ アジャイル型開発手法を徹底比較
-
8
AI時代に成功するための「ナレッジマネジメント」ベストプラクティス
-
9
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
10
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー