2020年01月23日 16時00分 公開
特集/連載

特選プレミアムコンテンツガイド人工知能が偏見を助長する? 原因は学習データにあり

AI技術には性別や人種のバイアスに基づいた判断をしてしまうリスクがある。バイアスを軽減し、公平かつ正確な判断をするAIシステムを構築する方法を考える。

[TechTargetジャパン]

関連キーワード

ITガバナンス | 機械学習


ダウンロードはこちら

 Amazon.comは人工知能(AI)エンジン搭載の人材採用システムの開発を2017年に中止した。中止の理由は、採用の判断に女性就業希望者に対するバイアス(偏見)が含まれていたことだった。原因はAIシステムの機械学習に使っていたデータにあった。性別や人種へのバイアスが含まれた学習データ(教師データとも)を利用すると、AIシステムがそのバイアスに基づいた判断をするリスクがある。

 偏ったデータはときに役立つこともある。意図的にAIシステムの判断をゆがめる学習データを利用することで、かえってAIシステムの判断の正確性を高められる場合があるからだ。

 一般的にAIエンジンはブラックボックスになっている。バイアスの有無とその原因を判断することは困難だ。AIシステムのバイアスを解消しつつ、正確な判断ができるように学習させるにはどのようにすればよいのだろうか。本資料では、AIシステムのバイアスを取り巻く現状とバイアスを軽減する方法について、事例を交えて説明する。

プレミアムコンテンツのダウンロードはこちら

ALT ダウンロードはこちら

ITmedia マーケティング新着記事

news132.jpg

東京オリンピック・パラリンピック延期でサービス業の約40%が業績悪化を懸念――リスクモンスター調査
東京オリンピック・パラリンピックの延期によって自社の業績が変化すると考えているのは...

news034.jpg

Cookie利用規制が今必要な理由を整理する
個人情報保護の観点から、広告・マーケティングにおけるCookieの利用をはじめとしたデー...

news150.jpg

地銀カードローンのWebサイトに6つの勝ちパターン、64行ランキングトップは百五銀行――WACUL調査
WACULテクノロジー&マーケティングラボは3万サイトのデータをベースに作った評価基準を...