2020年10月30日 05時00分 公開
特集/連載

「マスター」「スレーブ」は“死語”に 技術による偏見への向き合い方技術は差別を助長するか【後編】

顔認識技術を使った既存システムは、特定の人種や性別を差別的に扱う傾向があることが明らかになった。技術による差別と向き合う中で、大手ベンダーの中には一部の技術や用語の利用を避ける動きがある。

[Lizzette B. Perez Arbesu,TechTarget]

関連キーワード

機械学習


 機械学習などの人工知能(AI)技術はアプリケーションを豊かにする目的で使われる。実際には、人がその根本のプログラムを開発している。AIアルゴリズムの変数を最初に定義したのは、プログラムを開発した人だ。基準がうまく定義されていなければ、結果として一般化につながりかねず、それは差別的行動につながり得る。

 2018年に英紙Guardianは、GoogleのAIアルゴリズムの一つが、黒人の画像に自動的にゴリラのタグを付けていたと伝えた。IBMやAmazon.comなどの企業は、黒人、特に女性に対して差別的な傾向があるという理由で、顔認識技術の利用を避けている。

 「米国内の司法機関によって顔認識技術が利用されるべきかどうか、そしてどう利用されるべきかについて、今こそ国家的対話を始めるときだと考える」。IBMの執行役員、アービンド・クリシュナ氏は米議会に宛てた2020年6月の書簡にそう記した。「人種差別との闘いは、かつてなく緊急性が高まっている」とクリシュナ氏は述べ、IBMは「汎用(はんよう)の」顔認識製品を打ち切り、「集団監視、人種差別、人権侵害」を目的とする一切の技術利用を承認しないと発表した。

「マスター」「スレーブ」は“死語”に

ITmedia マーケティング新着記事

news103.jpg

HubSpotに聞く 顧客と自社の成長になぜ「文化」が重要か
企業文化は「第2の製品」。自らが求める価値と行動指針を「カルチャーコード」として定義...

news023.jpg

「6G」の特許出願レースは中国がリード、日本は追い付けるか?
2020年台後半には実用化が始まるといわれる6Gの技術。日本は世界で存在感を示せるでしょ...

news016.jpg

「パーソナライゼーションエンジン」 売れ筋TOP10(2021年9月)
今週はパーソナライゼーション製品の売れ筋TOP10を紹介します。