人工知能が偏見を助長する? 原因は学習データにあり特選プレミアムコンテンツガイド

AI技術には性別や人種のバイアスに基づいた判断をしてしまうリスクがある。バイアスを軽減し、公平かつ正確な判断をするAIシステムを構築する方法を考える。

2020年01月23日 16時00分 公開
[TechTargetジャパン]

関連キーワード

ITガバナンス | 機械学習


ダウンロードはこちら

 Amazon.comは人工知能(AI)エンジン搭載の人材採用システムの開発を2017年に中止した。中止の理由は、採用の判断に女性就業希望者に対するバイアス(偏見)が含まれていたことだった。原因はAIシステムの機械学習に使っていたデータにあった。性別や人種へのバイアスが含まれた学習データ(教師データとも)を利用すると、AIシステムがそのバイアスに基づいた判断をするリスクがある。

 偏ったデータはときに役立つこともある。意図的にAIシステムの判断をゆがめる学習データを利用することで、かえってAIシステムの判断の正確性を高められる場合があるからだ。

 一般的にAIエンジンはブラックボックスになっている。バイアスの有無とその原因を判断することは困難だ。AIシステムのバイアスを解消しつつ、正確な判断ができるように学習させるにはどのようにすればよいのだろうか。本資料では、AIシステムのバイアスを取り巻く現状とバイアスを軽減する方法について、事例を交えて説明する。

プレミアムコンテンツのダウンロードはこちら

ALT ダウンロードはこちら

ITmedia マーケティング新着記事

news018.jpg

Cookie廃止で広告主とデータプロバイダ、媒体社にこれから起きることとその対策
連載の最後に、サードパーティーCookie廃止が広告主と媒体社それぞれに与える影響と今後...

news100.jpg

メタバース生活者定点調査2023 メタバース利用経験は横ばいでも認知は向上
博報堂DYホールディングスによる「メタバース生活者定点調査2023」の結果です。メタバー...

news165.jpg

GoogleのBIツールからLINEにノーコードでデータ連携 primeNumberが「trocco action for Looker」を提供
primeNumberが「trocco action」の提供を開始。第一弾としてGoogleのBIツール「Looker」...