2018年に英紙Guardianは、GoogleのAIアルゴリズムの一つが、黒人の画像に自動的にゴリラのタグを付けていたと伝えた。IBMやAmazon.comなどの企業は、黒人、特に女性に対して差別的な傾向があるという理由で、顔認識技術の利用を避けている。

　「米国内の司法機関によって顔認識技術が利用されるべきかどうか、そしてどう利用されるべきかについて、今こそ国家的対話を始めるときだと考える」。IBMの執行役員、アービンド・クリシュナ氏は米議会に宛てた2020年6月の書簡にそう記した。「人種差別との闘いは、かつてなく緊急性が高まっている」とクリシュナ氏は述べ、IBMは「汎用（はんよう）の」顔認識製品を打ち切り、「集団監視、人種差別、人権侵害」を目的とする一切の技術利用を承認しないと発表した。

　MIT Media Labの調査によると、白人男性と黒人女性を認識する際の誤認識率には、IBMソフトウェアの場合で34％の差がある。それを踏まえると、IBMの判断は人種的な観点から考えて公正だと考えられるだけでなく、同社はAIアルゴリズムの精度を高めるプログラミングの前途に待ち受ける長い道のりを認識したともいえる。

　2018年のMIT Media Labの調査では、顔認識製品の認識精度の平均は93.7％～87.9％の範囲だった。だが肌の色と性別の違いに基づくと、特筆すべき差があった。Microsoftの製品による誤認識の93％は有色人種に影響し、中国Beijing Kuangshi Technology（Megviiの名称で事業展開）が持つ顔認識技術「Face++」の誤認識の95％は女性が関係していた。

　MITの調査の共著者で、Algorithmic Justice League創設者のジョイ・ブオラムウィニ氏は、IBMの取り組みを「企業が公正かつ説明可能な人工知能を推進する責任を持つための第一歩」だと評価する。「顔認識技術が特に警察に使われた場合、人権がないがしろにされ、特に黒人や先住民や有色人種が傷つけられてきた。そのことを認めたという点で、歓迎できる」（ブオラムウィニ氏）

　IT業界の差別に関連したもう一つの問題は、ネットワークやシステムのアーキテクチャを定義する際に使われる用語と関係がある。「マスター」「スレーブ」のような概念を示す用語は、もっと不快感を与えない用語へと変更され始めている。「ブラックリスト」「ホワイトリスト」にも同じことが起きる。開発者はマスターとスレーブをそれぞれ「リーダー」「フォロワー」、ブラックリストとホワイトリストをそれぞれ「禁止リスト」「許可リスト」などと言い換えるようになっている。

　オープンソースOS「Linux」のソースコードやドキュメントには、新しい包容的な用語が使われるようになる。IT情報サイトZDNetによると、Linuxカーネルの管理者リーナス・トーバルズ氏は、2020年7月にこの新しい用語を承認した。Microsoft傘下のソフトウェア開発会社GitHubも、そうした用語をコーディングから排除する作業に当たっていることを明かした。

　一連の動きは、IT業界が人種差別を助長するのではなく包容的な技術によって社会の成長を支援し、差別との闘いを後押しする姿勢を物語る。