技術は差別を助長するか【前編】
「顔認識技術」が人種差別を助長しかねない深刻な理由
人類に分け隔てなくメリットをもたらすはずの技術が、人種差別を助長する可能性がある。顔認識技術といった人物認識技術に、特定の人種を差別的に扱う傾向があることが明らかになってきたのだ。何が起きているのか。
技術はレイシズム（人種差別）を永続させる――。科学技術誌MIT Technology Reviewにこのほど掲載された記事の中で、筆者のチャールトン・マクルウェイン氏はそう指摘した。マクルウェイン氏はNew York University（ニューヨーク大学）メディア・文化・コミュニケーション学の教授で『Black Software: The Internet & Racial Justice, From the AfroNet to Black Lives Matter』の著書がある。
この記事でマクルウェイン氏は、米国の黒人やラテンアメリカ（中南米）の住民が、顔認識技術の犠牲になっている理由を解説した。顔認識技術は人の身体的な特徴を分析するようプログラミングされていて、顔の特徴から黒人やラテンアメリカ住民だと認識すると「危険人物の可能性がある」と判断してアラートを出す傾向があるという。
特定人種を「危険人物」扱いに
マクルウェイン氏らのチームが設計した顔認識技術は、肌の色を基に犯罪の容疑者を絞り込んだ。同チームがトレーニングした自動リスクプロファイリングシステムは、ラテンアメリカ住民を不法移民だと認識しやすい傾向があった。「われわれが考案したアルゴリズムは、黒人を危険だと認識しやすい傾向があり、住宅購入やローンの利用、就労を妨害した」と同氏は指摘する。
記事の中でマクルウェイン氏は、政治に技術が利用された起源を解説している。1960年代後半の米国では、選挙に勝ち、社会情勢を理解し、緊張状態にあった社会的ムードを変化させるための心理戦に備える目的があったのだ。だがそうした取り組みが、当時最も治安が悪かった地域、すなわち黒人社会に対する大規模監視に道を開くことになった。
マクルウェイン氏によると、この種の情報は「刑事司法情報システム」が創設される一助となった。刑事司法情報システムは、人種プロファイリング（人種による選別）や人種差別的な取り締まり、特定人種をターゲットとする監視の土台を築き「何百万人もの有色人種の男女が投獄されるという負の遺産を生んだ」と同氏は説明する。
新型コロナウイルス禍における人種差別の脅威
新型コロナウイルス感染症（COVID-19）対策のために設計された接触追跡（接触確認）技術や脅威マッピング技術は、人種差別的環境を改善させる助けにはならなかった。それどころか、そうした技術は黒人やラテンアメリカ住民、先住民の感染率の高さを表した。
この統計は、そうした社会に属する人に良質でタイムリーな医療サービスが欠如していることを示すと解釈することが可能だ。だが実際にはこの情報は、まるで黒人やラテンアメリカ住民、先住民が国家的な問題であり、感染の脅威であるかのように発表された。米国のドナルド・トランプ大統領自らがこの観点で発言し、南部の国境を固めてメキシコ人やラテンアメリカ住民の米国への入国を止めて、新型コロナウイルス感染症患者の増加を防ぐよう指示した。既にその時点で患者数は相当数に達していたにもかかわらずだ。
マクルウェイン氏や米国内の黒人が危惧するのは、新型コロナウイルス感染症の結果として開発された新しいアプリケーションが抗議デモ参加者の識別に利用され、後に「脅威の鎮圧」に使われることだった。同氏が言及している迫害や逮捕は、投獄や失踪につながる可能性も大きい。
「技術が人種差別の永続化に利用されることを望まないのであれば、われわれは犯罪や暴力、疾病といった社会問題を黒人など有色人種と結び付けないことを明確にすべきだ」とマクルウェイン氏は強調する。「社会問題を人種問題とすり替えてしまうと、有色人種こそが問題であると見なしてしまい、技術を使ってそれを解決し、脅威を根絶しようとしてしまう危険がある」（同氏）
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[ポールトゥウィン株式会社] 開発スピードと品質を両立、DONUTSが実践する「ハイブリッドなQA体制」の構築術 -
製品レビュー
[ポールトゥウィン株式会社] 開発スピードと品質は両立できる？ DONUTSの「ジョブカン」に学ぶQA戦略 -
市場調査・トレンド
[レッドハット株式会社] 「プラットフォームエンジニアリング」調査レポート：利点・課題・未来像を詳説 -
市場調査・トレンド
[レッドハット株式会社] 生成AI活用のためのテクノロジー基盤、構築に際しての7つの検討事項とは？ -
製品資料
[レッドハット株式会社] ビジネスの現場へのAI導入と活用、何から始めてどのように進めるべきか？
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
【漫画付き】ひとり情シス協会が明かす、RAG導入でしくじる企業「2つの共通点」
-
2
1200万円のSaaS導入を回避 スギ薬局「運用費10万円」のAIエージェント構築術
-
3
IBM iのブラックボックス化を打破 資産継承と進化を実現する「IBM Bob」の実力
-
4
年収700万超エンジニアに共通するスキルと「もっと勉強すべきだった分野」
-
5
「完璧な設計」なのに3000万円溶けた AWSの失敗事例から学ぶ3つの教訓
-
6
「サイバー犯罪株式会社」に潜入 現地調査で判明した“犯罪者求人”の実態
-
7
人間のせいでAIエージェントの生産性が上がらない
-
8
「企業におけるAIの運用」に関するアンケート
-
9
AIエージェント暴走をミリ秒で隔離 NVIDIAがハードで挑む暴走抑止
-
10
AIプロジェクトが“目的不明”で凍結する理由 問題は「ツール選定」ではない？
ホワイトペーパーランキング PR
-
1
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
2
バックアップは“取っているから大丈夫”なのか？ ランサムウェア時代の備え方
-
3
ネットワーク遅延の原因、「パケットロス」の基礎知識と効果的な解決策
-
4
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
5
5分で分かる Microsoft 365のデータ損失に備えるためのバックアップの仕組み
-
6
AI活用を停滞させる「2：6：2の壁」を乗り越えるためのポイントとは？
-
7
ソフトウェア開発の属人化と手戻りをどう防ぐ？ 速さと品質を両立させる方法
-
8
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
9
複雑な組織構造で一度は頓挫した電子化、東京女子医科大はどう全学展開したか
-
10
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー