前編(Computer Weekly日本語版 2017年12月20日号掲載)では、コンピュータが算出したスコアを基に量刑が決まった裁判から、その妥当性やアルゴリズムの透明性が問題になっている現状を紹介した。
後編では、学習データに入り込む偏りの問題の解決策を検討する。
認知科学者のジョアンナ・ブライソン氏は、データ駆動型の意思決定における「偏り」についての研究を進めて、主に3つの対処法があると考えている。
第1の方法は、偏りがあると認識することだ。「機械学習が順調に稼働している理由は、人間の文化を活用しているからだ。善意も悪意も同時に学んでいる」と同氏は説明する。これは特に、数十年間にわたる意思決定に関するデータに影響を与える可能性がある。しかし、だからといって最近のデータだけを使用すると不規則性の偏りが助長される。
第2の方法は、民族性、場所、年齢、性別など、偏ることが明白な領域で偏り具合をテストすることだ。この方法はおのずと、IT部門で働く人の多様化につながる可能性がある。人は、自分自身に対する影響を考える傾向が強まるからだ。ただしブライソン氏は、必ずしもそうなるとは限らないと断った上で、次のように注意を促す。「かつてプログラマーだった女性という立場から言うと、それぞれの現場で支配的なグループに吸収されてしまうことが少なくない」
第3の方策として、データやアルゴリズムを利用する人々は、監査や監視に慣れなければならないとブライソン氏は指摘する。
1990年代、当時カーネギーメロン大学の大学院生だったリッチ・カルアナ氏は、ニューラルネットの機械学習システムのトレーニングに携わって、肺炎患者の死亡率を予測した。
パラレルルールをベースとしたこのモデルは、驚くべきルールを導き出した。
続きを読むには、[続きを読む]ボタンを押して
会員登録あるいはログインしてください。
AI活用で日本が米国に追い付く――PwC調査
PwC Japanグループが日本で実施した調査の結果から、日本企業によるAI活用が大きく進み、...
SaaS企業の成功メソッド「PLG」を実践するための組織作りとは?
成長を続けるSaaS企業には組織としての共通点がある。それは具体的にどのようなものだろ...
メディア総接触時間、「携帯電話/スマートフォン」が「テレビ」を上回り首位に
博報堂DYメディアパートナーズによる、生活者のメディア接触の現状を捉える年次調査の結...