既に始まっているコンピュータによる意思決定（前編）

コンピュータのスコアリングを使った裁判は適切だったのか？

AI（人工知能）の活用に対する懸念は根強いが、コンピュータによる意思決定は人々の生活に関与している。既に活用されている分野においてなされた決定は、本当に正しかったのだろうか。

　英ウェストミッドランズ州消防庁が発表したデータによると、バーミンガム市には消防署が15もあるのに、その近隣の町ソリフルには2つしかない。消防隊員が要請を受けてから現場に到着するまでの時間を示すオンラインマップを見ると、ソリフルの多くの地区は郊外の農村であるため、消防隊員の到着に都市部よりも時間がかかっていることが分かる。人口の相対的な違いを考慮しても、ソリフルの行政サービスは行き届いていないことがうかがえる。

　同庁がまとめた別のデータを見ると、都市部のバーミンガムに消防署が多く設置されている理由が分かる。「火災が発生した場所を見れば、強い根拠があることが非常によく分かるだろう」と話すのは、同庁で戦略を統括するデータアナリスト、ジェイソン・デイビス氏だ。バーミンガム市内には、アストン、ハンズワース、レイディウッド、ハイゲイトなど、人口に比例して火災が多発している地区が幾つか存在する。

　同庁は火災に関するアドバイスを行うためデータ分析を導入した。そして、単身世帯、公共機関が運営している賃貸住宅、失業、喫煙、住人が黒人またはアフリカ系カリブ人であるなどの要因があると、偶発的な火災のリスクが高まるという相関関係を発見した。

　ただし、「結論を出すには注意が必要だ」とデイビス氏は指摘する。「こうした相関関係だけでも、われわれが構築している業務遂行モデルにとっては十分な情報だ。だが、正確な原因を把握しているとは限らない」

AIが科した厳刑

　2013年、米国ウィスコンシン州の判事がエリック・ルーミス氏に懲役6年の刑を科した。ルーミス氏は警官から逃げたことに対して有罪を認めていたが、問題は刑期の長さだった。判事は量刑の際、「COMPASスコア」も考慮に加えたのだ。

　COMPAS（Correctional Offender Management Profiling for Alternative Sanctions：直訳すると「代替制裁のための矯正対象犯罪者管理プロファイリング」）スコアとは、対象者の再犯リスクを評価したものだ。米国の法執行機関向けITシステムの専門企業Northpointeが開発したアルゴリズムを使用している。

　ルーミス氏が量刑に対して不服申し立てを行ったことにより、新たな問題点が浮上した。

この記事の著者

関連記事

• 

  ソフトウェアで作るDIYハイパーコンバージドインフラのススメ

• 

  誇大宣伝にゆがめられたAI（人工知能）の正しい使い方

新着ホワイトペーパー PR

• 事例
  [株式会社ラクス] どうすれば「変革を楽しむ組織」になれるのか？　事例に学ぶ、未来への一歩
• 製品レビュー
  [デル・テクノロジーズ株式会社] 変化するサイバー脅威に備える、これからのストレージの選び方
• 事例
  [サイボウズ株式会社] 受注約1.5倍と年間2万3000時間超の業務時間を削減、日機装に学ぶDX実践術
• 製品レビュー
  [サイボウズ株式会社] 人材不足にどう挑む？　ものづくり太郎が語る、製造現場でのAI活用成功の鍵
• 市場調査・トレンド
  [グーグル・クラウド・ジャパン合同会社] 金融機関はAIエージェント導入でどう変わる？　7つの変化から19の事例まで解説