コンピュータのスコアリングを使った裁判は適切だったのか？：既に始まっているコンピュータによる意思決定（前編）

AI（人工知能）の活用に対する懸念は根強いが、コンピュータによる意思決定は人々の生活に関与している。既に活用されている分野においてなされた決定は、本当に正しかったのだろうか。

[SA Mathieson，Computer Weekly]

　英ウェストミッドランズ州消防庁が発表したデータによると、バーミンガム市には消防署が15もあるのに、その近隣の町ソリフルには2つしかない。消防隊員が要請を受けてから現場に到着するまでの時間を示すオンラインマップを見ると、ソリフルの多くの地区は郊外の農村であるため、消防隊員の到着に都市部よりも時間がかかっていることが分かる。人口の相対的な違いを考慮しても、ソリフルの行政サービスは行き届いていないことがうかがえる。

Computer Weekly日本語版　12月20日号無料ダウンロード

本記事は、プレミアムコンテンツ「Computer Weekly日本語版　12月20日号」（PDF）掲載記事の抄訳版です。本記事の全文は、同プレミアムコンテンツで読むことができます。

• Computer Weekly日本語版　12月20日号：AIが人を裁いた日

なお、同コンテンツのEPUB版およびKindle（MOBI）版も提供しています。

　同庁がまとめた別のデータを見ると、都市部のバーミンガムに消防署が多く設置されている理由が分かる。「火災が発生した場所を見れば、強い根拠があることが非常によく分かるだろう」と話すのは、同庁で戦略を統括するデータアナリスト、ジェイソン・デイビス氏だ。バーミンガム市内には、アストン、ハンズワース、レイディウッド、ハイゲイトなど、人口に比例して火災が多発している地区が幾つか存在する。

　同庁は火災に関するアドバイスを行うためデータ分析を導入した。そして、単身世帯、公共機関が運営している賃貸住宅、失業、喫煙、住人が黒人またはアフリカ系カリブ人であるなどの要因があると、偶発的な火災のリスクが高まるという相関関係を発見した。

　ただし、「結論を出すには注意が必要だ」とデイビス氏は指摘する。「こうした相関関係だけでも、われわれが構築している業務遂行モデルにとっては十分な情報だ。だが、正確な原因を把握しているとは限らない」

AIが科した厳刑

　2013年、米国ウィスコンシン州の判事がエリック・ルーミス氏に懲役6年の刑を科した。ルーミス氏は警官から逃げたことに対して有罪を認めていたが、問題は刑期の長さだった。判事は量刑の際、「COMPASスコア」も考慮に加えたのだ。

　COMPAS（Correctional Offender Management Profiling for Alternative Sanctions：直訳すると「代替制裁のための矯正対象犯罪者管理プロファイリング」）スコアとは、対象者の再犯リスクを評価したものだ。米国の法執行機関向けITシステムの専門企業Northpointeが開発したアルゴリズムを使用している。

　ルーミス氏が量刑に対して不服申し立てを行ったことにより、新たな問題点が浮上した。

続きはComputer Weekly日本語版　12月20日号にて

本記事は抄訳版です。全文は、以下でダウンロード（無料）できます。

• Computer Weekly日本語版　12月20日号：AIが人を裁いた日

■Computer Weekly日本語版 最近のバックナンバー

Computer Weekly日本語版　1月10日号　“マルチクラウド”は幻想にすぎない

Computer Weekly日本語版　12月20日号　AIが人を裁いた日

Computer Weekly日本語版　12月6日号　AIの誇大宣伝を見極めるべし