技術は差別を助長するか【前編】
「顔認識技術」が人種差別を助長しかねない深刻な理由
人類に分け隔てなくメリットをもたらすはずの技術が、人種差別を助長する可能性がある。顔認識技術といった人物認識技術に、特定の人種を差別的に扱う傾向があることが明らかになってきたのだ。何が起きているのか。
技術はレイシズム(人種差別)を永続させる――。科学技術誌MIT Technology Reviewにこのほど掲載された記事の中で、筆者のチャールトン・マクルウェイン氏はそう指摘した。マクルウェイン氏はNew York University(ニューヨーク大学)メディア・文化・コミュニケーション学の教授で『Black Software: The Internet & Racial Justice, From the AfroNet to Black Lives Matter』の著書がある。
この記事でマクルウェイン氏は、米国の黒人やラテンアメリカ(中南米)の住民が、顔認識技術の犠牲になっている理由を解説した。顔認識技術は人の身体的な特徴を分析するようプログラミングされていて、顔の特徴から黒人やラテンアメリカ住民だと認識すると「危険人物の可能性がある」と判断してアラートを出す傾向があるという。
特定人種を「危険人物」扱いに
マクルウェイン氏らのチームが設計した顔認識技術は、肌の色を基に犯罪の容疑者を絞り込んだ。同チームがトレーニングした自動リスクプロファイリングシステムは、ラテンアメリカ住民を不法移民だと認識しやすい傾向があった。「われわれが考案したアルゴリズムは、黒人を危険だと認識しやすい傾向があり、住宅購入やローンの利用、就労を妨害した」と同氏は指摘する。
記事の中でマクルウェイン氏は、政治に技術が利用された起源を解説している。1960年代後半の米国では、選挙に勝ち、社会情勢を理解し、緊張状態にあった社会的ムードを変化させるための心理戦に備える目的があったのだ。だがそうした取り組みが、当時最も治安が悪かった地域、すなわち黒人社会に対する大規模監視に道を開くことになった。
マクルウェイン氏によると、この種の情報は「刑事司法情報システム」が創設される一助となった。刑事司法情報システムは、人種プロファイリング(人種による選別)や人種差別的な取り締まり、特定人種をターゲットとする監視の土台を築き「何百万人もの有色人種の男女が投獄されるという負の遺産を生んだ」と同氏は説明する。
新型コロナウイルス禍における人種差別の脅威
新型コロナウイルス感染症(COVID-19)対策のために設計された接触追跡(接触確認)技術や脅威マッピング技術は、人種差別的環境を改善させる助けにはならなかった。それどころか、そうした技術は黒人やラテンアメリカ住民、先住民の感染率の高さを表した。
この統計は、そうした社会に属する人に良質でタイムリーな医療サービスが欠如していることを示すと解釈することが可能だ。だが実際にはこの情報は、まるで黒人やラテンアメリカ住民、先住民が国家的な問題であり、感染の脅威であるかのように発表された。米国のドナルド・トランプ大統領自らがこの観点で発言し、南部の国境を固めてメキシコ人やラテンアメリカ住民の米国への入国を止めて、新型コロナウイルス感染症患者の増加を防ぐよう指示した。既にその時点で患者数は相当数に達していたにもかかわらずだ。
マクルウェイン氏や米国内の黒人が危惧するのは、新型コロナウイルス感染症の結果として開発された新しいアプリケーションが抗議デモ参加者の識別に利用され、後に「脅威の鎮圧」に使われることだった。同氏が言及している迫害や逮捕は、投獄や失踪につながる可能性も大きい。
「技術が人種差別の永続化に利用されることを望まないのであれば、われわれは犯罪や暴力、疾病といった社会問題を黒人など有色人種と結び付けないことを明確にすべきだ」とマクルウェイン氏は強調する。「社会問題を人種問題とすり替えてしまうと、有色人種こそが問題であると見なしてしまい、技術を使ってそれを解決し、脅威を根絶しようとしてしまう危険がある」(同氏)
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[株式会社WeDraft] これからの個人情報管理運用に求められる「仕組み化」のアプローチとは? -
製品資料
[株式会社WeDraft] 個人情報管理をどう強化する? 実効性のあるデータガバナンスを築く仕組みとは -
技術文書・技術解説
[Tebiki株式会社] 製造現場の技術伝承を変える生成AI、勘と経験に頼らない業務標準化の仕組みとは -
製品資料
[Tebiki株式会社] 設備保全の脱・属人化ガイド “記録を予防保全に生かす”ための3ステップ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
2
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
3
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
4
「WSUS」更新終了で迫られる決断 8割が選んだ“本命”移行先ツールとは?
-
5
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
6
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
-
7
大和証券や日経も被害に 2026年秋のインシデント集中で崩れた「防御の前提」
-
8
WordPressサイトの4割が旧版のまま 自動更新が止まる組織の共通点
-
9
Outlookでゼロデイ悪用、ChromeはXSLT停止――今朝の情シスニュース
-
10
IT製品の導入に関するアンケート「セキュリティ」編
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
6
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー