データの「偏見」を可視化するPythonライブラリの真の価値とは何かバイアスを排除することの重要性

機械学習に使うデータに年齢や人種、性別に関わるバイアスが含まれていると、AIは誤った推論を出力する。FairLensはこれらのバイアスを可視化し、公平性に寄与する。それによって得られる真の恩恵とは?

2021年12月02日 08時00分 公開
[Adrian BridgwaterComputer Weekly]

 データのバイアス(偏り、偏見)に対する保険が必要だ。特にAIにデータを提供する機械学習には欠かせない。機械学習の誤差は、データ内のある要素が他の要素よりも高く重み付けされ、非常に強く現れる場合に発生する。

 英国のスタートアップ企業SynthesizedのDataOpsプラットフォームは、データにあるバイアスを見つける手段を提供する。このバイアスが軽減されれば、例えば保険の見積もり、賠償請求、保険の掛け金が公平になる可能性がある。

オープンソースのPythonライブラリ

iStock.com/designer491

 Synthesizedはデータのバイアスを識別および計測するオープンソースのPythonライブラリ「FairLens」を発表した。

 Synthesizedのデニス・ボロビコフ氏(共同創設者でCTO:最高技術責任者)は、データサイエンスモデルの多くのデータには年齢や人種、性別などのバイアスがあると話す。

 「FairLensはデータのバイアスを見つけて可視化する数学的なフレームワークだ。FairLensによってデータをより深く理解することで、分析やデータサイエンスのタスクでそのデータを公平かつ倫理的に使えるようになることを願っている」(ボロビコフ氏)

 データのバイアスは多くの企業や業界にとって依然タブーになっている。FairLensはデータのバイアスを舞台裏で検出し、それを軽減する。

データ駆動の弊害

 自動車保険、健康保険、生命保険などの保険契約アプリケーションは、データに基づいて意思決定している。そのデータの品質が低かったりバイアスがあったりするとアプリケーションは本質的に偏るため、意図した目的を達成できない。

 データを点検することで、これまで過小評価されて十分なサービスを受けることができなかった顧客が公平な結果と権利を確保できるとSynthesizedは考えている。

 これは規制違反のリスクを大幅に削減し、企業ブランドを守るのに役立つ可能性もある。

Copyright © ITmedia, Inc. All Rights Reserved.

From Informa TechTarget

お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。

ITmedia マーケティング新着記事

news018.png

「ECプラットフォーム」売れ筋TOP10(2025年2月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。

news171.jpg

日本テレビの運用型テレビCM「スグリー」、プレミアパートナー企業9社を認定
日本テレビは、テレビCM枠をWebで購入できるサービス「スグリー」のプレミアパートナー9...

news092.jpg

ウェルチのCMOが語るリブランディング 脱「ぶどうジュースの会社」なるか?
Welch’s(ウェルチ)が製品の品揃えを拡大する中で、CMOのスコット・ウトケ氏はブランド...