データは中立ではない
データからバイアスを取り除く「責任あるAI」（Responsible AI）の取り組み
偏見や差別意識を持たず、中立性を重視して作成したはずのAIが不公平な結果を出力することがある。なぜこのようなことが起こるのか。責任あるAIを実現するためにはどうすればよいのか。
データや数値は議論の余地のないものだと考えられがちだ。だが、あらゆる情報はそこに埋め込まれたコンテキストの産物だ。本質的に、データにはバイアス（訳注）が含まれている。AIがビジネスや倫理において重大な過ちを犯すことの多さがそれを示している。
訳注：機械学習においては学習アルゴリズムに「バイアス」を用いるが、本稿のテーマである「偏見」とは全く異なる概念。
一つ例を挙げよう。ある著名なソフトウェア開発者が「Apple Card」の融資限度額の通知を受け取ったときのことだ。彼は融資限度額が妻のそれよりもはるかに高いことを発見した。妻のクレジットスコアの方が高いにもかかわらずだ。このショックをツイートしたところ、共有資産にも信用履歴にも差がない夫婦の融資限度額が同じく異なっていることが報告された。
あからさまな不公平はどのようにして生まれるのか。Appleが女性を低くするモデルを意図的に作成したとは考えにくい。融資限度額を決めるAIは、バイアスが含まれているデータを使ってトレーニングされていたのだ。
このデータのバイアスとはどのようなものか。Appleは、過去の個人融資限度額に関連するデータと信用履歴や収入レベルなど、さまざまな情報を使った可能性が高い。このデータは世界を反映していると見なされるため、結果は中立で偏りがないと思えるかもしれない。
ただし、その世界自体が融資慣行、賃金格差、信用アクセスの点で偏見に満ちている。その世界を反映したデータでトレーニングされたAIは、偏見を助長してしまう。
AIの真実との対決
素晴らしいことに、研究者と倫理学者が協力して偏ったデータの悪影響を軽減し、責任あるAI（Responsible AI）を通じてよりポジティブな結果を生み出す技術を開発している。同時に、多くの企業が責任あるAI戦略へと移行している。そうした企業はデータの取り込み、クリーニング、変換にも力を注いでいる。そうした企業はAIの開発、実装、監視、テストにおいて責任のある慣行に従っている。
責任あるAIの維持に最善で最もきめ細かなアプローチが求められるのはライフサイエンス、特に医療業界だ。医療業界では医学上のバイアスがアルゴリズムに複製される例が数多く存在する。
米国の大手医療サービス企業が、医療行為の追加によってメリットを得ることができる患者を予測するアルゴリズムを2019年に販売した。このアルゴリズムは最も健康状態が悪い黒人患者の医療ニーズを過小評価し、ほぼ全ての場合において白人患者のリスクが高く、追加の医療行為が必要だと見なした。
アルゴリズムは、米国における医療の現状を考慮していなかった。米国において医療費は人種と密接に関係している。有色人種は一貫して医療を受ける頻度が少なく、結果的に医療費も低くなる。アルゴリズムの開発者は、人種を変数から取り除くことが公平につながると考えたのかもしれない。だが実際は偏見を自動化して助長するだけだった。これは単独の事象ではなく、コストにフォーカスして人種を考慮しないモデルを作成したのはこの例だけではない可能性が高いことに注目する必要がある。
可能なこと
特にライフサイエンス業界では、企業はモデル化に着手する前にデータのバイアスを見つけようとし、バイアスが持ち込まれることを可能な限り避けるようになっている。
この取り組みはデータ収集の時点から始まる。データ収集自体がバイアスの出発点になるからだ。バイアスを探るため、データシートを使ってデータセットを調査する。このデータシートは
- データをどのように収集したか
- データをいつ収集したか
- どの主要グループがデータから欠落している恐れがあるか
- データは知りたい現実を実際に反映しているかどうか
といった質問で構成される。
データシートはコーネル大学で2018年に生まれた。同大学は、機械学習コミュニティーにはデータセットをドキュメントにするための標準化されたプロセスがないことを認識していた。同大学のコンピュータサイエンス学部は、データシートによって「データセットの作成者と利用者のコミュニケーションを促進し、機械学習コミュニティーが透明性と説明責任を優先することが奨励される」と考えた。
データシートの使用は、特にライフサイエンス、銀行、小売り、保険などの業界で標準手法になりつつある。データシートはバイアスを生む恐れのある原因への透明性を高める。その結果、構成、ラベル付け、プリプロセッシング、目的のある使用と配布に関する責任あるAIプラクティスも促進される。前述の業界では、探索的データ分析（EDA）も適用されている。EDAはデータの中立性を重視し、データに含まれる根本的なバイアスの探索を支援する。
責任あるAIに対する特効薬はない。だが、適切な場所から始めれば実現は可能だ。無意識のバイアスを最小限に抑えて最終的に取り除くためには、常にデータに疑問を投げ掛ける。そうすればAIの新たなライフサイクルと既存のライフサイクルを改善でき、誤った使用や意図しない結果が生じるリスクは少なくなる。
トリベェニ・ガンジー氏はDataikuのシニアデータサイエンティスト。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly日本語版
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社うるる] 「入札市場」攻略ガイド：効率的に落札するためのポイントを徹底解説 -
製品資料
[株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは？ -
市場調査・トレンド
[株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」 -
製品資料
[日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合／分離」を成功に導く秘訣 -
製品資料
[rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
2
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
3
「テザリング依存」に潜む落とし穴 “遅いVPN”を解消するネット構築術
-
4
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
5
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
6
「IT運用・情報システム業務」に関するアンケート
-
7
AI導入が失敗する“真犯人”は現場のマニュアル 7割が陥る「標準化」のわな
-
8
被害額は過去最高額 それでも「サイバー犯罪者が捕まらない」3つの理由
-
9
Claude利用8割のGMO、AI人材の評価軸が「トークン管理」に変わった
-
10
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
7
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
9
「標的型攻撃メール」事例・サンプル集
-
10
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー