2020年10月30日 05時00分 公開
特集/連載

「マスター」「スレーブ」は“死語”に 技術による偏見への向き合い方技術は差別を助長するか【後編】

顔認識技術を使った既存システムは、特定の人種や性別を差別的に扱う傾向があることが明らかになった。技術による差別と向き合う中で、大手ベンダーの中には一部の技術や用語の利用を避ける動きがある。

[Lizzette B. Perez Arbesu,TechTarget]

関連キーワード

機械学習


 機械学習などの人工知能(AI)技術はアプリケーションを豊かにする目的で使われる。実際には、人がその根本のプログラムを開発している。AIアルゴリズムの変数を最初に定義したのは、プログラムを開発した人だ。基準がうまく定義されていなければ、結果として一般化につながりかねず、それは差別的行動につながり得る。

 2018年に英紙Guardianは、GoogleのAIアルゴリズムの一つが、黒人の画像に自動的にゴリラのタグを付けていたと伝えた。IBMやAmazon.comなどの企業は、黒人、特に女性に対して差別的な傾向があるという理由で、顔認識技術の利用を避けている。

 「米国内の司法機関によって顔認識技術が利用されるべきかどうか、そしてどう利用されるべきかについて、今こそ国家的対話を始めるときだと考える」。IBMの執行役員、アービンド・クリシュナ氏は米議会に宛てた2020年6月の書簡にそう記した。「人種差別との闘いは、かつてなく緊急性が高まっている」とクリシュナ氏は述べ、IBMは「汎用(はんよう)の」顔認識製品を打ち切り、「集団監視、人種差別、人権侵害」を目的とする一切の技術利用を承認しないと発表した。

「マスター」「スレーブ」は“死語”に

ITmedia マーケティング新着記事

news072.jpg

超リッチなイーロン・マスク氏の「言論の自由」は、あなたのそれと同じなのか?
Twitter買収の大義名分とされる「言論の自由」。しかし、同じことを語っているつもりでも...

news204.jpg

新卒の営業職が仕事をやりたくない時期、最多は「5月」 ―― RevComm調査
新卒営業社員は5月に最初の「壁」を感じるようです。

news069.jpg

「メタバース」でどうやってもうけるの? Meta(旧Facebook)が考える収益化への道
Metaの中核をなすメタバースプラットフォームのマネタイズ計画が明確になりつつある。高...