特選プレミアムコンテンツガイド

人工知能が偏見を助長する？　原因は学習データにあり

AI技術には性別や人種のバイアスに基づいた判断をしてしまうリスクがある。バイアスを軽減し、公平かつ正確な判断をするAIシステムを構築する方法を考える。

公開 2020年01月23日 16時00分

更新 2020年01月23日 04時00分

[TechTargetジャパン]

印刷する連載新着通知を受け取る

　Amazon.comは人工知能（AI）エンジン搭載の人材採用システムの開発を2017年に中止した。中止の理由は、採用の判断に女性就業希望者に対するバイアス（偏見）が含まれていたことだった。原因はAIシステムの機械学習に使っていたデータにあった。性別や人種へのバイアスが含まれた学習データ（教師データとも）を利用すると、AIシステムがそのバイアスに基づいた判断をするリスクがある。

　偏ったデータはときに役立つこともある。意図的にAIシステムの判断をゆがめる学習データを利用することで、かえってAIシステムの判断の正確性を高められる場合があるからだ。

　一般的にAIエンジンはブラックボックスになっている。バイアスの有無とその原因を判断することは困難だ。AIシステムのバイアスを解消しつつ、正確な判断ができるように学習させるにはどのようにすればよいのだろうか。本資料では、AIシステムのバイアスを取り巻く現状とバイアスを軽減する方法について、事例を交えて説明する。