アルゴリズムで“殺人犯”を予測――英司法省の恐るべき計画：英司法省の犯罪予測ツールの問題点【前編】

個人の再犯や殺人を予測するツールの運用、開発を進めている英司法省。だがそれらのツールは、“偏ったデータ”に基づいて人種的マイノリティーの人々を不当に危険視する恐れがあるという。根本的な問題点とは。

[Sebastian Klovig Skelton，TechTarget]

　英司法省（MoJ：Ministry of Justice）は、データに基づき、個人の犯罪リスクをアルゴリズムで「予測」する、プロファイリングツールを利用している。これに対して人権擁護団体Statewatchは、偏見を含むデータを用いることで、社会の制度や仕組みに組み込まれた差別が深刻化する恐れがあると警告する。MoJはどのようなツールを利用、開発しているのか。

犯罪予測ツールが新たな差別を生むのはなぜか

併せて読みたいお薦め記事

ITと差別問題

• 「顔認識技術」が人種差別を助長しかねない深刻な理由
• 採用におけるAI活用が訴訟リスクに？　人事採用でのAI利用は「まだ早い」のか

　Statewatchは情報公開制度を通じて入手した文書を基に、MoJが利用中の再犯リスク予測ツールに欠陥があることを指摘。殺人を犯す可能性のある人物を予測する別のツールを開発中であることも問題視線する。

　MoJは、犯罪予測ツールを使うことで、人員をより効率的に配分できるようになると主張する。だが一部の批評家は、実際には貧困層や特定の人種的マイノリティーの集団を集中的に取り締まりの対象にするために使われていると批判する。これらの集団は歴史的に、他の集団よりも頻繁な職務質問、捜索、逮捕対象といった「過剰な警察活動」の対象になってきた結果、それ以外の集団と比べて、警察のデータベースに過剰なほど多くのデータが残っているからだ。

　この仕組みが負のループを生み出している。過剰な警察活動のデータを基にした犯罪予測ツールは、特定の集団や地域に対する過剰な監視を助長する。その結果、特定の集団や地域に対するデータがさらに蓄積され、既存の差別が強化、悪化するのだ。

　2018年の共著『Police: A Field Guide』で警察の犯罪予測ツールの問題を追跡したデービッド・コレイア氏とタイラー・ウォール氏は、次のように論じる。「犯罪予測ツールは、法執行機関が差別的な警察活動を続けるために『一見すると客観的なデータ』を提供し、『人種プロファイリングとは無関係』という体裁も整えてしまう」

　コレイア氏とウォール氏は、「貧困層を過剰に取り締まってきた過去のデータを用いて学習する以上、アルゴリズムが『未来の危険人物は現在の貧困層の中にいる』という結論を出すのは当然だ」との見解も示す。

犯罪予測ツール「OASys」の実態

　MoJの犯罪予測ツール「OASys」（Offender Assessment System）は、2001年に運用が始まった。国王刑務所・保護観察庁（HMPPS：His Majesty’s Prison and Probation Service）によると、OASysは犯罪に関連する個人の問題や状況を特定・分類し、自身および他者に加える危害のリスクを評価する。機械学習を用いており、入力データから学習して機能を改善し続ける仕組みだ。

　OASysが算出するリスクスコアは、個人の人生に深刻な影響を及ぼし得る、さまざまな決定の基準になる。具体的には、保釈や量刑の判断、収容される刑務所の種類、収監中に教育や更生プログラムを受けられるかどうかの決定などだ。

　Statewatchが入手した文書からは、MoJがイングランドとウェールズで毎週数千人の受刑者の分析にOASysを使用している事実が浮かび上がる。例えば2025年1月6日から12日（現地時間）までの1週間では、1日平均1300件以上、合計9420件の再犯リスクを評価した。

　2025年1月時点で、OASysのデータベースは、個人の再犯リスクの疑いを示すリスクスコアを700万件以上保管している。これには完了した評価と進行中の評価の両方が含まれる。

　「社会構造に組み込まれた人種差別などの根深い偏見が、OASysのリスクスコアに反映されている可能性がある」。元受刑者であり、現在は犯罪歴を持つ人々の社会復帰を支援する社会的企業（社会問題の解決を目的に活動する組織）Breakthrough Social Enterpriseの共同CEOを務めるソバナン・ナレンシラン氏は、OASysについてそう話す。

　ナレンシラン氏は、OASysに入力されるデータ自体が、偏った警察活動や特定の集団の過剰な監視といった問題を反映したものであると主張する。法執行の制度や慣行自体に根付く不平等のために、黒人などの人種的マイノリティーは、不当に高い頻度で職務質問や捜索、逮捕、起訴の対象になり得る。その結果、それらの集団は実際のリスク以上に、OASysが「ハイリスク」だと判断する可能性がある。「これは『ごみを入力すれば、ごみしか出てこない』（不正確な情報を入力すれば、不正確な結果しか得られない）の典型例だ」と同氏は評価する。

　MoJは、OASysを使って毎日膨大な件数のリスクを評価する中での正確性の確保について、実務担当者がデータを検証し、一貫性を保つために詳細な指針に従っていると説明する。

開発が進む「殺人予測ツール」とは

　MoJが開発を進めているもう一方の犯罪予測ツールは、殺人事件を起こすリスクが最も高い人物を特定することを目的にしている。保護観察局（Probation Service）や警察などの複数の情報源から多様な個人情報を収集し、分析する計画だ。Statewatchによると、処理対象になる個人情報には、氏名、生年月日、性別、民族的出自の他、警察国家コンピュータ（PNC）で個人を識別する番号などが含まれる可能性がある。PNCは、英警察が全国規模で犯罪情報を管理、参照するシステムだ。

　当初「殺人予測プロジェクト」と呼ばれていたこの取り組みは、その後「リスク評価改善のためのデータ共有」と改名された。このプロジェクトでは、有罪判決を受けたかどうかにかかわらず、あらゆる人々が分析の対象になる可能性がある。Statewatchが入手した、MoJとグレーターマンチェスター警察（GMP：Greater Manchester Police）のデータ共有協定に関する文書によると、共有されるデータには、警察と初めて接触した年齢や、初めて犯罪被害に遭った年齢などの情報が含まれるとみられる。

　この協定の「特別な配慮を要する個人データ」の項目には、「重要な予測力を持つと期待される健康マーカー」の共有も盛り込まれていることも分かった。具体的には精神衛生、依存症、自殺、自傷行為、障害に関連するデータといった極めて繊細な情報が含まれる可能性がある。Statewatchは、有罪判決を受けていない人々のデータも利用される点を問題視する。

　特定の集団や地域に偏った警察活動のデータを使えば、英国の刑事司法制度の根底にある差別を強化し、増幅させるだけだと指摘する。

　「殺人予測ツールを構築しようとするこのプロジェクトは、政府が犯罪を予測する技術の導入を進める意図を示す、恐ろしくてディストピア（暗黒世界）的な事例だ」。Statewatchの研究員ソフィア・ライアル氏はそう述べる。

　ライアル氏は、MoJが開発を進める殺人予測ツールについて、この種の他のシステムと同様に、人種的マイノリティーや低所得者層に対する偏見を反映することになると考える。「人々を暴力的な犯罪者として分類するツールの開発は根本的に誤っており、精神衛生や依存症、障害に関する繊細なデータを使用することは、プライバシーを大いに侵害する、憂慮すべきことだ」（同氏）

　犯罪予測アルゴリズムに本質的な欠陥があることは、過去の研究で繰り返し示されてきたともライアル氏は指摘する。

　Statewatchは、MoJの保有するデータの中でも特に黒人と、貧困地域のあらゆる民族の人々に関するものが著しく多いことにも言及する。

---

　次回は、OASysの不正確さに対する指摘と、MoJが進める計画を紹介する。

TechTarget.AIとは

TechTarget.AI編集部は生成AIなどのサービスを利用し、米国Informa TechTargetの記事を翻訳して国内向けにお届けします。