2019年06月26日 05時00分 公開
特集/連載

Amazon、Facebookも批判の的に 「公平・公正なAI」はなぜ難しいのか「人工知能のバイアス」を考える【前編】

AIシステムのバイアスは、人種や性差に基づく誤った判断をもたらすことがある。Amazon.comとFacebookの事例から、現在のAIシステムが抱える課題について考える。

[Mark Labbe,TechTarget]

関連キーワード

Amazon | Facebook | ITガバナンス | 機械学習


画像

 Amazon.comは人工知能(AI)技術を搭載した人材採用向けシステムの開発を2014年から3年間続けていたが、2017年に中止した。後日明らかになったところによると、このAIシステムには女性志願者に対するバイアス(偏見、差別)が含まれていたという。同社はこの問題の解決を試みたが、できなかった。

 問題の元凶は、AIエンジンのトレーニングに使っていたデータにある。このデータはIT企業における10年分の求職データで、採用した男女の割合の不均衡を反映していた。AIシステムはそのデータを取り込んで、同じパターンを生成してしまった。

 2019年1月にも、AIシステムのバイアスを巡った議論が巻き起こった。その発端は、Amazon.comの子会社であるAmazon Web Servicesが画像、動画分析ツール「Amazon Rekognition」と顔認識ソフトウェアを米政府機関に販売することに「物言う株主」が反対したことだった。その後AIサイエンティストのグループも反対側に加わっている。

 Amazon RekognitionのAIエンジンにバイアスが疑われることについて、Amazon.comおよびAWSは強い批判を受けた。AWSは同社のWebサイトにブログ記事を掲載し、見解を示している。

 このブログ記事では、AWSで深層学習(ディープラーニング)をはじめとするAI技術の統括マネジャーを務めるマット・ウッド氏が、批判を巻き起こすきっかけとなった研究論文と、研究の「幾つかの誤解と不正確な事実」(同氏見解)についてコメントしている。ウッド氏によれば、推奨しているのとは異なる方法で不適切にツールが使われたことにより、研究結果がゆがめられた可能性があるという。

まん延する問題

ITmedia マーケティング新着記事

news155.jpg

2020年上期インターネット広告市場動向と下期業種別出稿動向予測――サイバー・コミュニケーションズ調査
国内のデジタルマーケティング業界の関係者を対象にした、新型コロナ禍におけるインター...

news162.jpg

「ダークソーシャル」はユーザーの行動にどれだけ影響するか――ホットリンク調べ
DM(ダイレクトメッセージ)をきっかけとする消費者行動の実態とは。

news155.jpg

東京五輪を「訪日観戦したい」 中国58.4%、米国21.0%――ブレインパッド調べ
東京五輪に関して世界の2大国で意識調査。米中ともに約半数が東京五輪の開催を希望してお...