“偽りの殺人犯”にされる恐怖 英司法省の「犯罪予測ツール」の問題点とは：英司法省の犯罪予測ツールの問題点【後編】

英司法省の犯罪予測ツール「OASys」は、特定の人種に対して不正確な評価を下すことが公式に認められている。評価された当事者たちが語る問題と、英政府が開発を進める新たな予測ツールの実態とは。

[Sebastian Klovig Skelton，TechTarget]

　英司法省（MoJ：Ministry of Justice）は、アルゴリズムで再犯リスクを予測するツール「OASys」（Offender Assessment System）を使用している。同組織はOASysによる効率的な司法の実現を掲げる一方で、その根幹には深刻な問題が潜んでいる。OASysは、歴史的に特定の人々を「過剰に監視」してきた警察のデータを学習するため、黒人などの人種的マイノリティーなどを不当に危険視する「差別的なツール」になりかねないとの批判が絶えないのだ。OASysの不正確さがもたらす非人間的な実態と、同組織が新たに開発を進める「殺人予測ツール」の問題点に迫る。

不正確さへの異議申し立て

併せて読みたいお薦め記事

連載：英司法省の犯罪予測ツールの問題点

• 前編：アルゴリズムで“殺人犯”を予測――英司法省の恐るべき計画

ITと差別問題

• 「顔認識技術」が人種差別を助長しかねない深刻な理由
• 採用におけるAI活用が訴訟リスクに？　人事採用でのAI利用は「まだ早い」のか

　2015年にMoJが実施したOASysのリスクスコアに関する公式評価の報告書によると、性別、年齢、人種によって予測精度にばらつきがあることが明らかになった。特に白人と比較して、人種的マイノリティーに対する予測精度は不釣り合いに低い。中でも黒人や混血（異なる人種や民族の親を持つ人）の人々について、その傾向が顕著だった。

　報告書は、予測の妥当性が、男性より女性、アジア系や黒人、混血より白人の犯罪者、若年層より年配層の方が高いことを示す。リスクの特性の違いを考慮しても、非暴力的な再犯では人種的マイノリティー全般で、暴力的な再犯では黒人と混血の人々に対する予測の妥当性の低さが、最大の懸念事項として挙げられた。

　OASysの影響を受けた受刑者も、偏ったデータや不正確なデータがもたらす影響についてStatewatchに証言した。複数の少数民族出身の受刑者は、評価担当者が証拠もないまま、人種差別的な思い込みに基づいて、報告書に「ギャング」という虚偽の情報を記入したと訴える。

　終身刑で服役中のある男性は、バーミンガム大学（University of Birmingham）の研究者との対話の中で、OASysの不正確なデータがもたらす影響を「坂道を転がり落ちる小さな雪玉」に例えた。不正確な記述が積み重なるうちに、もはや自分とは似ても似つかない「想像で作り上げた虚像」が形成されてしまうというのだ。「これこそ究極の非人間的な扱いだ」とその男性は語った。

　元受刑者で、現在は犯罪歴のある人々の社会復帰を支援する社会的企業（社会問題の解決を目的に活動する組織）Breakthrough Social Enterpriseの共同CEOを務めるソバナン・ナレンシラン氏は、別の視点から問題を提示する。システムの正確性に問題があるにもかかわらず、OASysの誤ったデータに異議を唱えることは困難だという点だ。「OASysの評価記録を修正しようとしたが、その手続きはもどかしく、不透明な点が幾つもある」とナレンシラン氏は述べる。

　「ほとんどの場合、対象者本人は自分について何が書かれているかを知らされず、評価が確定する前に内容を確認して反論する十分な機会を与えられていない。懸念を表明しても、強力な法的支援がなければ無視されるのが常だ」（ナレンシラン氏）

MoJの主張

　英Computer Weeklyは、OASysおよび開発中の殺人予測ツールについてMoJに詳細を尋ねた。同省の広報担当者は、継続的な改善、研究、検証によってこれらのツールの完全性と品質を確保しており、開発時には公平性やデータの偏りといった倫理的な問題を常に考慮していると述べた。

　広報担当者によると、OASysも殺人予測ツールも、人種を直接的な予測因子として使用していない。国王刑務所・保護観察庁（HMPPS：His Majesty’s Prison and Probation Service）への正式な申し立てに納得できない場合は、刑務所・保護観察オンブズマン（Prisons and Probation Ombudsman）に不服を申し立てることができる。

　OASysを構成する5つのリスク予測ツールについて、MoJは再犯リスクを効果的に予測できるよう再検証を進めているという。

　殺人予測ツールの開発については、研究目的でのみ実施しているとMoJは主張する。「このプロジェクトは、保護観察下にある人々が重大な暴力を犯すリスクを理解するために、HMPPSと警察が保有する、有罪判決を受けた犯罪者のデータを用いて設計された」とMoJの広報担当者は説明し、報告書を公表する計画があることも伝えた。

　MoJの広報担当者の話では、殺人予測ツールの目的は、「犯罪とリスク評価データをより細かく分析することで、重大な犯罪のリスク評価を改善し、人々の安全を守ること」にある。プロジェクトを通じて、警察官や保護観察官が日々の現場業務に使う予測ツールを開発することはないが、成果が将来他のツール開発に生かされる可能性はあるという。

　これまでに使用してきたデータは、「1件以上の有罪判決を受けた人物のデータ」のみだとMoJは強調する。

新しい動き

　深刻な懸念が存在するにもかかわらず、MoJはHMPPS全体でOASysの評価を参照し続けている。Statewatchの情報公開請求に対し、MoJは「HMPPSのARNS（Assess Risks, Needs and Strengths）プロジェクトが、OASysに代わる新しいツールを開発中」であることを認めた。

　新システムの初期プロトタイプは2024年12月から試験中で、2026年の全国展開を目指している。ARNSはMoJのデジタルチームが内製しており、OASysの技術サポートを手掛けるBPO（ビジネスプロセスアウトソーシング）サービス企業Capitaと連携して進められている。

　英政府は「独立した量刑見直し」を開始し、刑務所外で犯罪者を管理するためのリスク評価ツールや電子タグの使用など、新技術の活用を検討している。Statewatchは、この犯罪予測ツールの開発中止も求めている。

　「政府は不透明で人種差別的なアルゴリズムの開発に資金を投じるのではなく、真に人々の支援となる福祉サービスに投資すべきだ。福祉を切り捨てる一方で、技術だけで何でも解決できると考える『安易な解決策』に投資しても、人々の安全と幸福を損なうだけだ」（ライアル氏）

TechTarget.AIとは

TechTarget.AI編集部は生成AIなどのサービスを利用し、米国Informa TechTargetの記事を翻訳して国内向けにお届けします。