「マスター」「スレーブ」は“死語”に 技術による偏見への向き合い方：技術は差別を助長するか【後編】

顔認識技術を使った既存システムは、特定の人種や性別を差別的に扱う傾向があることが明らかになった。技術による差別と向き合う中で、大手ベンダーの中には一部の技術や用語の利用を避ける動きがある。

[Lizzette B. Perez Arbesu，TechTarget]

　機械学習などの人工知能（AI）技術はアプリケーションを豊かにする目的で使われる。実際には、人がその根本のプログラムを開発している。AIアルゴリズムの変数を最初に定義したのは、プログラムを開発した人だ。基準がうまく定義されていなければ、結果として一般化につながりかねず、それは差別的行動につながり得る。

　2018年に英紙Guardianは、GoogleのAIアルゴリズムの一つが、黒人の画像に自動的にゴリラのタグを付けていたと伝えた。IBMやAmazon.comなどの企業は、黒人、特に女性に対して差別的な傾向があるという理由で、顔認識技術の利用を避けている。

併せて読みたいお薦め記事

AIのバイアス

• 採用担当者が認識すべき「AIのバイアス」という問題
• Amazon、Facebookも批判の的に　「公平・公正なAI」はなぜ難しいのか
• “偏り”がプラスに作用することも　「AI」のバイアスとどう向き合うか

説明可能なAIへ

• 企業に求められる「説明可能なAI（Explainable AI）」
• MicrosoftがAIの監査可能性、説明可能性を向上させるツールを提供

　「米国内の司法機関によって顔認識技術が利用されるべきかどうか、そしてどう利用されるべきかについて、今こそ国家的対話を始めるときだと考える」。IBMの執行役員、アービンド・クリシュナ氏は米議会に宛てた2020年6月の書簡にそう記した。「人種差別との闘いは、かつてなく緊急性が高まっている」とクリシュナ氏は述べ、IBMは「汎用（はんよう）の」顔認識製品を打ち切り、「集団監視、人種差別、人権侵害」を目的とする一切の技術利用を承認しないと発表した。

「マスター」「スレーブ」は“死語”に