前編（Computer Weekly日本語版 2017年12月20日号掲載）では、コンピュータが算出したスコアを基に量刑が決まった裁判から、その妥当性やアルゴリズムの透明性が問題になっている現状を紹介した。
後編では、学習データに入り込む偏りの問題の解決策を検討する。
本記事は、プレミアムコンテンツ「Computer Weekly日本語版 1月10日号」（PDF）掲載記事の抄訳版です。本記事の全文は、同プレミアムコンテンツで読むことができます。
なお、同コンテンツのEPUB版およびKindle（MOBI）版も提供しています。
認知科学者のジョアンナ・ブライソン氏は、データ駆動型の意思決定における「偏り」についての研究を進めて、主に3つの対処法があると考えている。
第1の方法は、偏りがあると認識することだ。「機械学習が順調に稼働している理由は、人間の文化を活用しているからだ。善意も悪意も同時に学んでいる」と同氏は説明する。これは特に、数十年間にわたる意思決定に関するデータに影響を与える可能性がある。しかし、だからといって最近のデータだけを使用すると不規則性の偏りが助長される。
第2の方法は、民族性、場所、年齢、性別など、偏ることが明白な領域で偏り具合をテストすることだ。この方法はおのずと、IT部門で働く人の多様化につながる可能性がある。人は、自分自身に対する影響を考える傾向が強まるからだ。ただしブライソン氏は、必ずしもそうなるとは限らないと断った上で、次のように注意を促す。「かつてプログラマーだった女性という立場から言うと、それぞれの現場で支配的なグループに吸収されてしまうことが少なくない」
第3の方策として、データやアルゴリズムを利用する人々は、監査や監視に慣れなければならないとブライソン氏は指摘する。米国で強大な権力を持つ政府機関であるFDA（食品医薬品局）を引き合いに出し、「AI、ひいてはテクノロジー全般を対象とする、現在のFDAのような組織が今後設立されるかもしれない」と同氏は続けて説明する。2018年5月に発効し、英国がEU離脱後も維持するとみられている一般データ保護規則（GDPR）には、自動化された決定に異議を申し立てる、具体的な権利が盛り込まれている。「各自の利益のため、そうした社内プロセスが確立されているかどうか、事前に確認しておくことだ」と同氏は話す。
企業の経営陣や上級管理職に就いている人々にとって、このような監査が社内の現状をチェックするのに役立つ場合もある。「ただし、この手のことが苦手なプログラマーは多い」とブライソン氏は指摘する。「プログラマーはこれまで、何度もテストを受けるような経験をあまりしてこなかったからだ。もっとも、大企業で働いている人々はテストを受ける機会も多く、慣れているだろう。一方、次のようにほとんど意図的に機械学習を誤解している人が組織の中に一定数存在する。『機械学習を使用すると、そうしたテストを実施する必要はなくなる。機械学習をチェックできる人間はいないからだ』と主張する人々のことだ。残念ながら、この考えは正しくない」
機械学習を含むデータ駆動型の意思決定を行う方法について、将来は公平性が向上すると期待する専門家が増えている。1990年代、当時カーネギーメロン大学の大学院生だったリッチ・カルアナ氏は、ニューラルネットの機械学習システムのトレーニングに携わって、肺炎患者の死亡率を予測した。
パラレルルールをベースとしたこのモデルは、驚くべきルールを導き出した。
本記事は抄訳版です。全文は、以下でダウンロード（無料）できます。
■Computer Weekly日本語版 最近のバックナンバー
Computer Weekly日本語版 1月10日号 “マルチクラウド”は幻想にすぎない
Computer Weekly日本語版 12月20日号 AIが人を裁いた日
Computer Weekly日本語版 12月6日号 AIの誇大宣伝を見極めるべし
卓球「Tリーグ」と「TikTok」のコラボレーションがお互いにもたらすメリットとは
認知拡大を課題とする卓球新リーグとファン層拡大を狙う大人気の動画SNS。パートナーシッ...
CEO承継の課題、日本と世界の違いは？――PwC Strategy&調査
Strategy&は、世界の上場企業を対象に実施した、2018年におけるCEOの承継についての調査...
みずほ銀行が「不正送金防止」メルマガ施策で申し込み率13倍に 社会課題解決型コンテンツの底力
社会課題解決を訴求するメルマガで、通常の13倍ものコンバージョンを獲得したみずほ銀行...
ITmediaはアイティメディア株式会社の登録商標です。
