「人工知能のバイアス」を考える【前編】

Amazon、Facebookも批判の的に　「公平・公正なAI」はなぜ難しいのか

AIシステムのバイアスは、人種や性差に基づく誤った判断をもたらすことがある。Amazon.comとFacebookの事例から、現在のAIシステムが抱える課題について考える。

　Amazon.comは人工知能（AI）技術を搭載した人材採用向けシステムの開発を2014年から3年間続けていたが、2017年に中止した。後日明らかになったところによると、このAIシステムには女性志願者に対するバイアス（偏見、差別）が含まれていたという。同社はこの問題の解決を試みたが、できなかった。

　問題の元凶は、AIエンジンのトレーニングに使っていたデータにある。このデータはIT企業における10年分の求職データで、採用した男女の割合の不均衡を反映していた。AIシステムはそのデータを取り込んで、同じパターンを生成してしまった。

　2019年1月にも、AIシステムのバイアスを巡った議論が巻き起こった。その発端は、Amazon.comの子会社であるAmazon Web Servicesが画像、動画分析ツール「Amazon Rekognition」と顔認識ソフトウェアを米政府機関に販売することに「物言う株主」が反対したことだった。その後AIサイエンティストのグループも反対側に加わっている。

　Amazon RekognitionのAIエンジンにバイアスが疑われることについて、Amazon.comおよびAWSは強い批判を受けた。AWSは同社のWebサイトにブログ記事を掲載し、見解を示している。

　このブログ記事では、AWSで深層学習（ディープラーニング）をはじめとするAI技術の統括マネジャーを務めるマット・ウッド氏が、批判を巻き起こすきっかけとなった研究論文と、研究の「幾つかの誤解と不正確な事実」（同氏見解）についてコメントしている。ウッド氏によれば、推奨しているのとは異なる方法で不適切にツールが使われたことにより、研究結果がゆがめられた可能性があるという。

まん延する問題

「人工知能のバイアス」を考える

近年ではAmazon.comやFacebookで、人工知能（AI）システムによる差別的な判断が問題となった。AIシステムのバイアス（差別、偏見）を取り巻く現状と、バイアスを防ぐ方法について考える。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  人工知能（AI）の不公平な判断を指摘するツール　IBMが提供開始

• 

  AI（人工知能）の意思決定はブラックボックス、それでも機械を信じる？

新着ホワイトペーパー PR

• 事例
  [アルプス システム インテグレーション株式会社] 中小企業でも安心して活用できる「手ごろなSOCサービス」とは？
• 製品資料
  [株式会社シーイーシー] 脱VMwareに成功した企業は何をどう実践した？　事例に学ぶ戦略立案＆実装のコツ
• 製品資料
  [株式会社オービックビジネスコンサルタント] ランサムウェア攻撃を“二重の防御構造”で防ぐ、クラウド型基幹システムの実力
• 製品資料
  [株式会社オービックビジネスコンサルタント] 動画で知るランサムウェア被害企業のリアル、会計データが無事だった理由とは
• 市場調査・トレンド
  [セコムトラストシステムズ株式会社] EDR導入を成功に導くロードマップ：選定／稟議／運用のつまずきを防ぐコツ