「人工知能のバイアス」を考える【前編】
Amazon、Facebookも批判の的に 「公平・公正なAI」はなぜ難しいのか
AIシステムのバイアスは、人種や性差に基づく誤った判断をもたらすことがある。Amazon.comとFacebookの事例から、現在のAIシステムが抱える課題について考える。
Amazon.comは人工知能（AI）技術を搭載した人材採用向けシステムの開発を2014年から3年間続けていたが、2017年に中止した。後日明らかになったところによると、このAIシステムには女性志願者に対するバイアス（偏見、差別）が含まれていたという。同社はこの問題の解決を試みたが、できなかった。
問題の元凶は、AIエンジンのトレーニングに使っていたデータにある。このデータはIT企業における10年分の求職データで、採用した男女の割合の不均衡を反映していた。AIシステムはそのデータを取り込んで、同じパターンを生成してしまった。
2019年1月にも、AIシステムのバイアスを巡った議論が巻き起こった。その発端は、Amazon.comの子会社であるAmazon Web Servicesが画像、動画分析ツール「Amazon Rekognition」と顔認識ソフトウェアを米政府機関に販売することに「物言う株主」が反対したことだった。その後AIサイエンティストのグループも反対側に加わっている。
Amazon RekognitionのAIエンジンにバイアスが疑われることについて、Amazon.comおよびAWSは強い批判を受けた。AWSは同社のWebサイトにブログ記事を掲載し、見解を示している。
このブログ記事では、AWSで深層学習（ディープラーニング）をはじめとするAI技術の統括マネジャーを務めるマット・ウッド氏が、批判を巻き起こすきっかけとなった研究論文と、研究の「幾つかの誤解と不正確な事実」（同氏見解）についてコメントしている。ウッド氏によれば、推奨しているのとは異なる方法で不適切にツールが使われたことにより、研究結果がゆがめられた可能性があるという。
まん延する問題
AIビジネスでは、バイアスのもたらす害が問題となることが少なくない。ただし企業は必ずしもその害に気付けるとは限らず、気付いても対処するとは限らない。
データの処理と分析用のソフトウェアを開発するTrifactaで、共同創設者兼最高戦略責任者を務めるジョゼフ・ヘラーズテイン氏によると、この問題の原因の一つは「先送り」の文化にあるという。「学習データとAIシステムを定期的にチェックすることを怠ると、バイアスは簡単に見逃されてしまう」とヘラーズテイン氏は話す。
AIエンジンはブラックボックスになっていることが一般的だ。つまり、詳しく調べて、誤った方向に進んでいるものがないかどうか把握するのが難しい。AIシステムのユーザー、ときにはAI研究者であっても、AIシステムが動作した理由を即座に判断できない場合がある。
機械学習や分析に使うデータのソースと取得方法、変更履歴を追跡するのは基本的に難しい。そのためAIシステムが扱うデータがどの程度偏っているかを判断するのは困難だと、ヘラーズテイン氏は続ける。
多くの企業は事業を迅速に運営するよう迫られている。AIシステムの挙動から、バイアスが疑われる要素を見つけたしても、「いずれ対処する」という見込みの下に修正を先送りにすることも考えられる。
「バイアスに注意を払うことは必要だが、そうするように企業体質を変えるのは難しい」とヘラーズテイン氏は語る。
有害なバイアス
Amazon.comだけでなく、他の著名なテクノロジー企業も偏ったデータを使用したり、偏った判断をするAIシステムを作成したりして、ここ数年で批判を浴びている。2019年3月、米住宅都市開発省がFacebookを提訴した。その訴訟理由は、同社サービスの広告主が地域、性別、人種などの特徴に基づいて、特定の層を広告のターゲットにできるようにしていたことだった。
同時期に、コーネル大学の研究者は学術論文で、Facebookが広告に使用している内部システム自体が偏っているため、同社の広告配信がゆがめられていると主張した。
Facebookは2019年3月28日、報道各社にメールで声明を発表し「当社は住宅都市開発省の懸念に対処するため協力し、広告差別を回避するために多くの措置を取っている。住宅都市開発省のこの決断には驚きを隠せない」と述べた。
Amazon.comとFacebookに各社のAIシステムのバイアスについて問い合わせたが、回答は得られていない。
Copyright © ITmedia, Inc. All Rights Reserved.
「人工知能のバイアス」を考える
近年ではAmazon.comやFacebookで、人工知能（AI）システムによる差別的な判断が問題となった。AIシステムのバイアス（差別、偏見）を取り巻く現状と、バイアスを防ぐ方法について考える。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社マクニカ] アイカ工業に学ぶ脆弱性対策 情シスが把握できずにいたアセットも正確に把握 -
製品資料
[株式会社マクニカ] 「脆弱性総まとめ」解説 被害事例から考える必須の対策ポイント -
製品資料
[Splunk Services Japan合同会社] サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには -
製品資料
[株式会社うるる] 「入札市場」完全ガイドブック：メリットから資格取得のポイントまで -
市場調査・トレンド
[株式会社うるる] はじめての「自治体／官公庁入札」 必要な知識がすぐに学べる入門ガイド
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
2
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
3
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
4
「有線LAN環境」に関するアンケート
-
5
「世界一給与にハングリー」な日本のエンジニアが“雇用の安定”を求める理由
-
6
Microsoft Teamsで見直すべき設定5選 「偽情シス」からの遠隔操作要求が侵入口に
-
7
「GPTかClaudeか」だけでは不十分 AI選定で情シスが見るべき3つの仕組み
-
8
「技術屋」で終わらないために 情シスが今取るべき認定資格5選
-
9
迫る“インフラ崩壊”の危機 米英を相次いで襲った「PLC悪用攻撃」の全貌
-
10
「VMwareのコスト」に悩んでいるユーザー企業に送る、VMwareを残す・捨てる基準
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
8
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
9
Macの安全神話は崩壊？ 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
10
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー