2017年12月22日 08時00分 公開
特集/連載

既に始まっているコンピュータによる意思決定(前編)コンピュータのスコアリングを使った裁判は適切だったのか?

AI(人工知能)の活用に対する懸念は根強いが、コンピュータによる意思決定は人々の生活に関与している。既に活用されている分野においてなされた決定は、本当に正しかったのだろうか。

[SA Mathieson,Computer Weekly]
Computer Weekly

 英ウェストミッドランズ州消防庁が発表したデータによると、バーミンガム市には消防署が15もあるのに、その近隣の町ソリフルには2つしかない。消防隊員が要請を受けてから現場に到着するまでの時間を示すオンラインマップを見ると、ソリフルの多くの地区は郊外の農村であるため、消防隊員の到着に都市部よりも時間がかかっていることが分かる。人口の相対的な違いを考慮しても、ソリフルの行政サービスは行き届いていないことがうかがえる。

Computer Weekly日本語版 12月20日号無料ダウンロード

本記事は、プレミアムコンテンツ「Computer Weekly日本語版 12月20日号」(PDF)掲載記事の抄訳版です。本記事の全文は、同プレミアムコンテンツで読むことができます。

なお、同コンテンツのEPUB版およびKindle(MOBI)版も提供しています。

ボタンボタン

 同庁がまとめた別のデータを見ると、都市部のバーミンガムに消防署が多く設置されている理由が分かる。「火災が発生した場所を見れば、強い根拠があることが非常によく分かるだろう」と話すのは、同庁で戦略を統括するデータアナリスト、ジェイソン・デイビス氏だ。バーミンガム市内には、アストン、ハンズワース、レイディウッド、ハイゲイトなど、人口に比例して火災が多発している地区が幾つか存在する。

 同庁は火災に関するアドバイスを行うためデータ分析を導入した。そして、単身世帯、公共機関が運営している賃貸住宅、失業、喫煙、住人が黒人またはアフリカ系カリブ人であるなどの要因があると、偶発的な火災のリスクが高まるという相関関係を発見した。デイビス氏によると、火災発生に直接つながる要因が幾つかあるという。例えば、失業者は自宅にいる時間が長い傾向にあるので、うっかり火災を起こす可能性も高くなる。

 ただし、「結論を出すには注意が必要だ」とデイビス氏は指摘する。「こうした相関関係だけでも、われわれが構築している業務遂行モデルにとっては十分な情報だ。だが、正確な原因を把握しているとは限らない」

 一般住宅の火災に対処する消防隊員を増員するために、データを使ってその根拠を論証するのは難しいことではない。特にデータが公開されている場合にはなおさらだ。ただし、データを活用しているものの、非常に透明性の低い方法で意思決定を行っている組織は少なくない。また、そのプロセスに機械学習や人工知能(AI)を導入する例も増えている。その場合、コンピュータがそうしたデータを使って意思決定アルゴリズムを調整していると、Webの基礎となるプロトコルを発明した、ティム・バーナーズ=リー氏は憂慮する。

 「AIが住宅ローンの審査などの意思決定を下すようになると、これは大ごとだ」。同氏は2017年4月に開催されたイベントで、AIを基盤とするシステムが会社を立ち上げるようになるという将来を予測した上で、懸念を表明していた。

 「その意思決定の精度に関する競争が、AI企業間で既に始まっている。競争が公正に行われていることを確認する方法や、コンピュータがこれから世の中でどこまでの役割を果たすのが正しいのかを人類が理解できるようになるのか、疑問を感じる人が多数を占める段階に至るまでこの競争は続くだろう」

AIが科した厳刑

 世に知られていないアルゴリズムによって、既に生活に深刻な影響を受けている人々も一部に存在する。2013年、米国ウィスコンシン州の判事がエリック・ルーミス氏に懲役6年の刑を科した。ルーミス氏は警官から逃げたことに対して有罪を認めていたが、問題は刑期の長さだった。判事は量刑の際、「COMPASスコア」も考慮に加えたのだ。

 COMPAS(Correctional Offender Management Profiling for Alternative Sanctions:直訳すると「代替制裁のための矯正対象犯罪者管理プロファイリング」)スコアとは、対象者の再犯リスクを評価したものだ。米国の法執行機関向けITシステムの専門企業Northpointeが開発したアルゴリズムを使用している。

 ルーミス氏が量刑に対して不服申し立てを行ったことにより、新たな問題点が浮上した。

続きはComputer Weekly日本語版 12月20日号にて

本記事は抄訳版です。全文は、以下でダウンロード(無料)できます。


Computer Weekly日本語版 最近のバックナンバー

Computer Weekly日本語版 1月10日号 “マルチクラウド”は幻想にすぎない

Computer Weekly日本語版 12月20日号 AIが人を裁いた日

Computer Weekly日本語版 12月6日号 AIの誇大宣伝を見極めるべし


注目テーマ

ITmedia マーケティング新着記事

news121.jpg

IMJとブレインパッド、「Rtoaster」と「Salesforce Marketing Cloud」のデータ連携パッケージを共同開発
アイ・エム・ジェイとブレインパッドは「Rtoaster」と「Salesforce Marketing Cloud」の...

news118.jpg

楽天インサイト、インフルエンサーを活用した調査サービスを提供開始
楽天インサイトは、インフルエンサーを活用した調査サービス「R-インフルエンサー・イン...

news116.jpg

8700万ユーザーのO2Oソリューション「popinfo」が新レポーティング機能を提供開始
アイリッジは、スマートフォン向け位置情報連動型O2Oソリューション「popinfo」の新レポ...