2019年07月04日 05時00分 公開
特集/連載

“偏り”がプラスに作用することも 「AI」のバイアスとどう向き合うか「人工知能のバイアス」を考える【後編】

AIシステムのバイアスはリスクとなる一方、有益な結果をもたらすこともある。本稿では、AIシステムのバイアスの長所と短所を取り上げる。

[Mark Labbe,TechTarget]

関連キーワード

Amazon | Facebook | ITガバナンス | 機械学習


画像

 偏ったデータによるバイアス(偏見、差別)を含む人工知能(AI)システムを使用することは、大きな墓穴を掘ることにつながる――。そう語るのは、データ管理ソフトウェアを提供するCollibraの共同創設者兼最高技術責任者(CTO)を務めるスタン・クリスティアンス氏だ。

 「偏ったAIシステムは膨大な数のエラーを生み出す」とクリスティアンス氏は指摘。ほとんどのAIエンジンはブラックボックスになっているため「企業がダメージの大きさに気付いたときには、既に手遅れになっている恐れがある」と同氏は説明する。

 前編の「Amazon、Facebookも批判の的に 『公平・公正なAI』はなぜ難しいのか」では、Amazon.comとFacebookの事例を基に、AIシステムのバイアスを取り巻く現状について説明した。後編ではバイアスへの対策と、偏ったデータを有効活用できる可能性について考える。

どうすればバイアスを軽減できるか

 クリスティアンス氏は、AIシステムを活用する企業に注意を促すと同時に、バイアスを抑える対策を複数講じることを推奨している。これには、次のような対策が挙げられる。

  • 倫理委員会と協議する
  • 多様なバックグラウンドを持つ人々で構成されたデータサイエンスチームを雇う
  • サードパーティーのデータ管理ベンダーと連携する

 企業がバイアスを回避/排除するのに大きく役立つのは、常に警戒心を持ち、潜在的な問題を素早く解決するよう動くことだと、クリスティアンス氏は話す。

 AIシステムのバイアスは、データと結果を不適切にゆがめる恐れがある。ただしAIシステムにあえて偏りを取り入れて、トレーニングに役立てようとする試みもある。

ときに役立つ偏ったデータ

ITmedia マーケティング新着記事

news161.jpg

コロナ禍で縮小したマーケティング施策 1位は「オフラインのセミナー/展示会」――ベーシック調査
B2Bマーケターを対象にした調査で8割以上が「コロナ禍で実施/検討しているマーケティン...

news110.jpg

メルカリ調査 フリマアプリで売れる価格は新品の購買意思決定にどれほど影響する?
フリマプリ出品経験者は、フリマアプリでの再販価格が10%上昇すると、新品に支払える上...

news024.jpg

Google検索における2020年上半期の動向 新型コロナの影響でSEOはどう変わる?
新型コロナウイルスの影響が大きかった2020年の上半期ですが、Google検索の動向において...