AI技術には性別や人種のバイアスに基づいた判断をしてしまうリスクがある。バイアスを軽減し、公平かつ正確な判断をするAIシステムを構築する方法を考える。
Amazon.comは人工知能(AI)エンジン搭載の人材採用システムの開発を2017年に中止した。中止の理由は、採用の判断に女性就業希望者に対するバイアス(偏見)が含まれていたことだった。原因はAIシステムの機械学習に使っていたデータにあった。性別や人種へのバイアスが含まれた学習データ(教師データとも)を利用すると、AIシステムがそのバイアスに基づいた判断をするリスクがある。
偏ったデータはときに役立つこともある。意図的にAIシステムの判断をゆがめる学習データを利用することで、かえってAIシステムの判断の正確性を高められる場合があるからだ。
一般的にAIエンジンはブラックボックスになっている。バイアスの有無とその原因を判断することは困難だ。AIシステムのバイアスを解消しつつ、正確な判断ができるように学習させるにはどのようにすればよいのだろうか。本資料では、AIシステムのバイアスを取り巻く現状とバイアスを軽減する方法について、事例を交えて説明する。
SASのCMOが語る マーケティング部門が社内の生成AI活用のけん引役に適している理由
データとアナリティクスの世界で半世紀近くにわたり知見を培ってきたSAS。同社のCMOに、...
SALES ROBOTICSが「カスタマーサクセス支援サービス」を提供
SALES ROBOTICSは、カスタマーサクセスを実現する新サービスの提供を開始した。
「Fortnite」を活用 朝日広告社がメタバース空間制作サービスとマーケティング支援を開始
朝日広告社は、人気ゲーム「Fortnite」に新たなゲームメタバース空間を公開した。また、...