Amazon.comは人工知能(AI)技術を搭載した人材採用向けシステムの開発を2014年から3年間続けていたが、2017年に中止した。後日明らかになったところによると、このAIシステムには女性志願者に対するバイアス(偏見、差別)が含まれていたという。同社はこの問題の解決を試みたが、できなかった。
問題の元凶は、AIエンジンのトレーニングに使っていたデータにある。このデータはIT企業における10年分の求職データで、採用した男女の割合の不均衡を反映していた。AIシステムはそのデータを取り込んで、同じパターンを生成してしまった。
2019年1月にも、AIシステムのバイアスを巡った議論が巻き起こった。その発端は、Amazon.comの子会社であるAmazon Web Servicesが画像、動画分析ツール「Amazon Rekognition」と顔認識ソフトウェアを米政府機関に販売することに「物言う株主」が反対したことだった。その後AIサイエンティストのグループも反対側に加わっている。
Amazon RekognitionのAIエンジンにバイアスが疑われることについて、Amazon.comおよびAWSは強い批判を受けた。AWSは同社のWebサイトにブログ記事を掲載し、見解を示している。
このブログ記事では、AWSで深層学習(ディープラーニング)をはじめとするAI技術の統括マネジャーを務めるマット・ウッド氏が、批判を巻き起こすきっかけとなった研究論文と、研究の「幾つかの誤解と不正確な事実」(同氏見解)についてコメントしている。ウッド氏によれば、推奨しているのとは異なる方法で不適切にツールが使われたことにより、研究結果がゆがめられた可能性があるという。
AI活用で日本が米国に追い付く――PwC調査
PwC Japanグループが日本で実施した調査の結果から、日本企業によるAI活用が大きく進み、...
SaaS企業の成功メソッド「PLG」を実践するための組織作りとは?
成長を続けるSaaS企業には、「プロダクト主導型」という組織としての共通点がある。それ...
メディア総接触時間、「携帯電話/スマートフォン」が「テレビ」を上回り首位に
博報堂DYメディアパートナーズによる、生活者のメディア接触の現状を捉える年次調査の結...