「人工知能のバイアス」を考える【後編】
“偏り”がプラスに作用することも 「AI」のバイアスとどう向き合うか
AIシステムのバイアスはリスクとなる一方、有益な結果をもたらすこともある。本稿では、AIシステムのバイアスの長所と短所を取り上げる。
偏ったデータによるバイアス(偏見、差別)を含む人工知能(AI)システムを使用することは、大きな墓穴を掘ることにつながる――。そう語るのは、データ管理ソフトウェアを提供するCollibraの共同創設者兼最高技術責任者(CTO)を務めるスタン・クリスティアンス氏だ。
「偏ったAIシステムは膨大な数のエラーを生み出す」とクリスティアンス氏は指摘。ほとんどのAIエンジンはブラックボックスになっているため「企業がダメージの大きさに気付いたときには、既に手遅れになっている恐れがある」と同氏は説明する。
前編の「Amazon、Facebookも批判の的に 『公平・公正なAI』はなぜ難しいのか」では、Amazon.comとFacebookの事例を基に、AIシステムのバイアスを取り巻く現状について説明した。後編ではバイアスへの対策と、偏ったデータを有効活用できる可能性について考える。
どうすればバイアスを軽減できるか
クリスティアンス氏は、AIシステムを活用する企業に注意を促すと同時に、バイアスを抑える対策を複数講じることを推奨している。これには、次のような対策が挙げられる。
- 倫理委員会と協議する
- 多様なバックグラウンドを持つ人々で構成されたデータサイエンスチームを雇う
- サードパーティーのデータ管理ベンダーと連携する
企業がバイアスを回避/排除するのに大きく役立つのは、常に警戒心を持ち、潜在的な問題を素早く解決するよう動くことだと、クリスティアンス氏は話す。
AIシステムのバイアスは、データと結果を不適切にゆがめる恐れがある。ただしAIシステムにあえて偏りを取り入れて、トレーニングに役立てようとする試みもある。
ときに役立つ偏ったデータ
「バイアスをトレーニングに取り入れることで、判断の精度が向上するAIシステムもある」。そう話すのは、理解可能で説明可能なAIシステムの開発に特化する新興企業、DiveplaneでCTOを務めるクリス・ハザード氏だ。
例えば自動走行車を考える。車を一般的な運転データでトレーニングすれば、普通の天候ではうまく運転できるだろう。ただし、このトレーニングデータには「強風や豪雨、豪雪など異常な天候下での運転事例は、少ししか含まれていない可能性が高い」とハザード氏は注意を促す。そのためこうした状況下では、車を正しく運転することができない可能性があると、同氏は指摘する。
重要になるのが、トレーニングデータに降雪など異常な天候の運転データを追加して、バイアスを取り入れることだとハザード氏は話す。
バイアスは、AIシステムの分析結果をゆがめる恐れがあるが、AIシステムのトレーニングに役に立つ可能性もある。いずれにせよ不可欠な要素が透明性だ。欧州委員会は、AIシステムの透明性、説明責任、説明可能性、公正さの重要性を強調する一連の倫理ガイドラインを公表した。そこでは、バイアスを取り除いたデータをAIシステムのトレーニングに使用する必要性も強調されている。
ガイドラインへの参加企業は、2019年夏の実証試験に参加する。欧州委員会は、ここで収集したデータを2020年にレビューし、次のステップを決定する計画だ。
Copyright © ITmedia, Inc. All Rights Reserved.
「人工知能のバイアス」を考える
近年ではAmazon.comやFacebookで、人工知能(AI)システムによる差別的な判断が問題となった。AIシステムのバイアス(差別、偏見)を取り巻く現状と、バイアスを防ぐ方法について考える。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社ラクス] どうすれば「変革を楽しむ組織」になれるのか? 事例に学ぶ、未来への一歩 -
製品レビュー
[デル・テクノロジーズ株式会社] 変化するサイバー脅威に備える、これからのストレージの選び方 -
事例
[サイボウズ株式会社] 受注約1.5倍と年間2万3000時間超の業務時間を削減、日機装に学ぶDX実践術 -
製品レビュー
[サイボウズ株式会社] 人材不足にどう挑む? ものづくり太郎が語る、製造現場でのAI活用成功の鍵 -
市場調査・トレンド
[グーグル・クラウド・ジャパン合同会社] 金融機関はAIエージェント導入でどう変わる? 7つの変化から19の事例まで解説
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
RAGで「データをAIに送る」運用が限界を迎えている理由
-
2
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
3
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
4
本当にPCは必要なのか? CIOはクライアント機器を再検討すべし
-
5
「収入ゼロの恐怖」におびえながらも正社員に戻らない? フリーランスのリアル
-
6
村田製作所が1000台のサーバをAWSに移行 キンドリルの「AIOps」でどう変わる?
-
7
通話録音の個人情報を自動で無音化 専用端末を無償貸与
-
8
セキュリティ担当者“試練の1週間” 「PHP」脆弱性と認証局の失態が同時発生
-
9
なぜストレージ不足は長引くのか? 77%が「12〜18カ月続く」と予測
-
10
「技術屋」で終わらないために 情シスが今取るべき認定資格5選
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
本当に使える「会議翻訳ツール」を見極める4つの選定基準
-
3
有識者が語る、中堅中小企業に求められる最新のサイバーセキュリティ対策とは
-
4
10G回線の真価をフルに享受するには? 導入前にチェックしたいポイント
-
5
パスワードレスへの移行で失敗しないためには? 導入・運用上の注意点を解説
-
6
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
7
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
8
自社のセキュリティ対策は大丈夫? 自己診断リストで対策の優先順位が分かる
-
9
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
10
「テスト内製化&自動化」事例集:ディー・エヌ・エーなど9社に学ぶ実践のコツ
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー