技術は差別を助長するか【後編】
「マスター」「スレーブ」は“死語”に 技術による偏見への向き合い方
顔認識技術を使った既存システムは、特定の人種や性別を差別的に扱う傾向があることが明らかになった。技術による差別と向き合う中で、大手ベンダーの中には一部の技術や用語の利用を避ける動きがある。
機械学習などの人工知能(AI)技術はアプリケーションを豊かにする目的で使われる。実際には、人がその根本のプログラムを開発している。AIアルゴリズムの変数を最初に定義したのは、プログラムを開発した人だ。基準がうまく定義されていなければ、結果として一般化につながりかねず、それは差別的行動につながり得る。
「マスター」「スレーブ」は“死語”に
2018年に英紙Guardianは、GoogleのAIアルゴリズムの一つが、黒人の画像に自動的にゴリラのタグを付けていたと伝えた。IBMやAmazon.comなどの企業は、黒人、特に女性に対して差別的な傾向があるという理由で、顔認識技術の利用を避けている。
「米国内の司法機関によって顔認識技術が利用されるべきかどうか、そしてどう利用されるべきかについて、今こそ国家的対話を始めるときだと考える」。IBMの執行役員、アービンド・クリシュナ氏は米議会に宛てた2020年6月の書簡にそう記した。「人種差別との闘いは、かつてなく緊急性が高まっている」とクリシュナ氏は述べ、IBMは「汎用(はんよう)の」顔認識製品を打ち切り、「集団監視、人種差別、人権侵害」を目的とする一切の技術利用を承認しないと発表した。
MIT Media Labの調査によると、白人男性と黒人女性を認識する際の誤認識率には、IBMソフトウェアの場合で34%の差がある。それを踏まえると、IBMの判断は人種的な観点から考えて公正だと考えられるだけでなく、同社はAIアルゴリズムの精度を高めるプログラミングの前途に待ち受ける長い道のりを認識したともいえる。
2018年のMIT Media Labの調査では、顔認識製品の認識精度の平均は93.7%~87.9%の範囲だった。だが肌の色と性別の違いに基づくと、特筆すべき差があった。Microsoftの製品による誤認識の93%は有色人種に影響し、中国Beijing Kuangshi Technology(Megviiの名称で事業展開)が持つ顔認識技術「Face++」の誤認識の95%は女性が関係していた。
MITの調査の共著者で、Algorithmic Justice League創設者のジョイ・ブオラムウィニ氏は、IBMの取り組みを「企業が公正かつ説明可能な人工知能を推進する責任を持つための第一歩」だと評価する。「顔認識技術が特に警察に使われた場合、人権がないがしろにされ、特に黒人や先住民や有色人種が傷つけられてきた。そのことを認めたという点で、歓迎できる」(ブオラムウィニ氏)
IT業界の差別に関連したもう一つの問題は、ネットワークやシステムのアーキテクチャを定義する際に使われる用語と関係がある。「マスター」「スレーブ」のような概念を示す用語は、もっと不快感を与えない用語へと変更され始めている。「ブラックリスト」「ホワイトリスト」にも同じことが起きる。開発者はマスターとスレーブをそれぞれ「リーダー」「フォロワー」、ブラックリストとホワイトリストをそれぞれ「禁止リスト」「許可リスト」などと言い換えるようになっている。
オープンソースOS「Linux」のソースコードやドキュメントには、新しい包容的な用語が使われるようになる。IT情報サイトZDNetによると、Linuxカーネルの管理者リーナス・トーバルズ氏は、2020年7月にこの新しい用語を承認した。Microsoft傘下のソフトウェア開発会社GitHubも、そうした用語をコーディングから排除する作業に当たっていることを明かした。
一連の動きは、IT業界が人種差別を助長するのではなく包容的な技術によって社会の成長を支援し、差別との闘いを後押しする姿勢を物語る。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[株式会社WeDraft] これからの個人情報管理運用に求められる「仕組み化」のアプローチとは? -
製品資料
[株式会社WeDraft] 個人情報管理をどう強化する? 実効性のあるデータガバナンスを築く仕組みとは -
技術文書・技術解説
[Tebiki株式会社] 製造現場の技術伝承を変える生成AI、勘と経験に頼らない業務標準化の仕組みとは -
製品資料
[Tebiki株式会社] 設備保全の脱・属人化ガイド “記録を予防保全に生かす”ための3ステップ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
2
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
3
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
4
「WSUS」更新終了で迫られる決断 8割が選んだ“本命”移行先ツールとは?
-
5
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
6
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
-
7
大和証券や日経も被害に 2026年秋のインシデント集中で崩れた「防御の前提」
-
8
WordPressサイトの4割が旧版のまま 自動更新が止まる組織の共通点
-
9
Outlookでゼロデイ悪用、ChromeはXSLT停止――今朝の情シスニュース
-
10
IT製品の導入に関するアンケート「セキュリティ」編
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
6
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー