技術は差別を助長するか【前編】

「顔認識技術」が人種差別を助長しかねない深刻な理由

人類に分け隔てなくメリットをもたらすはずの技術が、人種差別を助長する可能性がある。顔認識技術といった人物認識技術に、特定の人種を差別的に扱う傾向があることが明らかになってきたのだ。何が起きているのか。

公開 2020年10月23日 05時02分

[TechTarget]

印刷する連載新着通知を受け取る

　技術はレイシズム（人種差別）を永続させる――。科学技術誌MIT Technology Reviewにこのほど掲載された記事の中で、筆者のチャールトン・マクルウェイン氏はそう指摘した。マクルウェイン氏はNew York University（ニューヨーク大学）メディア・文化・コミュニケーション学の教授で『Black Software: The Internet & Racial Justice, From the AfroNet to Black Lives Matter』の著書がある。

　この記事でマクルウェイン氏は、米国の黒人やラテンアメリカ（中南米）の住民が、顔認識技術の犠牲になっている理由を解説した。顔認識技術は人の身体的な特徴を分析するようプログラミングされていて、顔の特徴から黒人やラテンアメリカ住民だと認識すると「危険人物の可能性がある」と判断してアラートを出す傾向があるという。

特定人種を「危険人物」扱いに

　マクルウェイン氏らのチームが設計した顔認識技術は、肌の色を基に犯罪の容疑者を絞り込んだ。同チームがトレーニングした自動リスクプロファイリングシステムは、ラテンアメリカ住民を不法移民だと認識しやすい傾向があった。「われわれが考案したアルゴリズムは、黒人を危険だと認識しやすい傾向があり、住宅購入やローンの利用、就労を妨害した」と同氏は指摘する。

　記事の中でマクルウェイン氏は、政治に技術が利用された起源を解説している。1960年代後半の米国では、選挙に勝ち、社会情勢を理解し、緊張状態にあった社会的ムードを変化させるための心理戦に備える目的があったのだ。だがそうした取り組みが、当時最も治安が悪かった地域、すなわち黒人社会に対する大規模監視に道を開くことになった。

　マクルウェイン氏によると、この種の情報は「刑事司法情報システム」が創設される一助となった。刑事司法情報システムは、人種プロファイリング（人種による選別）や人種差別的な取り締まり、特定人種をターゲットとする監視の土台を築き「何百万人もの有色人種の男女が投獄されるという負の遺産を生んだ」と同氏は説明する。

併せて読みたいお薦め記事

AIのバイアス

説明可能なAIへ

新型コロナウイルス禍における人種差別の脅威

　新型コロナウイルス感染症（COVID-19）対策のために設計された接触追跡（接触確認）技術や脅威マッピング技術は、人種差別的環境を改善させる助けにはならなかった。それどころか、そうした技術は黒人やラテンアメリカ住民、先住民の感染率の高さを表した。

　この統計は、そうした社会に属する人に良質でタイムリーな医療サービスが欠如していることを示すと解釈することが可能だ。だが実際にはこの情報は、まるで黒人やラテンアメリカ住民、先住民が国家的な問題であり、感染の脅威であるかのように発表された。米国のドナルド・トランプ大統領自らがこの観点で発言し、南部の国境を固めてメキシコ人やラテンアメリカ住民の米国への入国を止めて、新型コロナウイルス感染症患者の増加を防ぐよう指示した。既にその時点で患者数は相当数に達していたにもかかわらずだ。

　マクルウェイン氏や米国内の黒人が危惧するのは、新型コロナウイルス感染症の結果として開発された新しいアプリケーションが抗議デモ参加者の識別に利用され、後に「脅威の鎮圧」に使われることだった。同氏が言及している迫害や逮捕は、投獄や失踪につながる可能性も大きい。

　「技術が人種差別の永続化に利用されることを望まないのであれば、われわれは犯罪や暴力、疾病といった社会問題を黒人など有色人種と結び付けないことを明確にすべきだ」とマクルウェイン氏は強調する。「社会問題を人種問題とすり替えてしまうと、有色人種こそが問題であると見なしてしまい、技術を使ってそれを解決し、脅威を根絶しようとしてしまう危険がある」（同氏）