2020年10月30日 05時00分 公開
特集/連載

「マスター」「スレーブ」は“死語”に 技術による偏見への向き合い方技術は差別を助長するか【後編】

顔認識技術を使った既存システムは、特定の人種や性別を差別的に扱う傾向があることが明らかになった。技術による差別と向き合う中で、大手ベンダーの中には一部の技術や用語の利用を避ける動きがある。

[Lizzette B. Perez Arbesu,TechTarget]

関連キーワード

機械学習


 機械学習などの人工知能(AI)技術はアプリケーションを豊かにする目的で使われる。実際には、人がその根本のプログラムを開発している。AIアルゴリズムの変数を最初に定義したのは、プログラムを開発した人だ。基準がうまく定義されていなければ、結果として一般化につながりかねず、それは差別的行動につながり得る。

 2018年に英紙Guardianは、GoogleのAIアルゴリズムの一つが、黒人の画像に自動的にゴリラのタグを付けていたと伝えた。IBMやAmazon.comなどの企業は、黒人、特に女性に対して差別的な傾向があるという理由で、顔認識技術の利用を避けている。

 「米国内の司法機関によって顔認識技術が利用されるべきかどうか、そしてどう利用されるべきかについて、今こそ国家的対話を始めるときだと考える」。IBMの執行役員、アービンド・クリシュナ氏は米議会に宛てた2020年6月の書簡にそう記した。「人種差別との闘いは、かつてなく緊急性が高まっている」とクリシュナ氏は述べ、IBMは「汎用(はんよう)の」顔認識製品を打ち切り、「集団監視、人種差別、人権侵害」を目的とする一切の技術利用を承認しないと発表した。

「マスター」「スレーブ」は“死語”に

ITmedia マーケティング新着記事

news155.jpg

動画配信サービス利用者の約7割が広告視聴に対して前向き――The Trade Desk調査
テレビよりも動画配信、それも無料サービスの利用意向が高まっているようです。

news150.jpg

「新しい出会いや人とのつながりを大切に感じるようになった」人が7割――Sansan調査
新型コロナウイルスの影響で、これまでのように気軽に出会えないことが、ビジネスパーソ...

news050.jpg

TableauにSalesforce Einstein Analyticsが完全統合してこれから変わること
セールスフォース・ドットコムとTableau Softwareは両社の製品統合の詳細について、いよ...