データの「偏見」を可視化するPythonライブラリの真の価値とは何かバイアスを排除することの重要性

機械学習に使うデータに年齢や人種、性別に関わるバイアスが含まれていると、AIは誤った推論を出力する。FairLensはこれらのバイアスを可視化し、公平性に寄与する。それによって得られる真の恩恵とは?

2021年12月02日 08時00分 公開
[Adrian BridgwaterComputer Weekly]

 データのバイアス(偏り、偏見)に対する保険が必要だ。特にAIにデータを提供する機械学習には欠かせない。機械学習の誤差は、データ内のある要素が他の要素よりも高く重み付けされ、非常に強く現れる場合に発生する。

 英国のスタートアップ企業SynthesizedのDataOpsプラットフォームは、データにあるバイアスを見つける手段を提供する。このバイアスが軽減されれば、例えば保険の見積もり、賠償請求、保険の掛け金が公平になる可能性がある。

オープンソースのPythonライブラリ

iStock.com/designer491

 Synthesizedはデータのバイアスを識別および計測するオープンソースのPythonライブラリ「FairLens」を発表した。

 Synthesizedのデニス・ボロビコフ氏(共同創設者でCTO:最高技術責任者)は、データサイエンスモデルの多くのデータには年齢や人種、性別などのバイアスがあると話す。

 「FairLensはデータのバイアスを見つけて可視化する数学的なフレームワークだ。FairLensによってデータをより深く理解することで、分析やデータサイエンスのタスクでそのデータを公平かつ倫理的に使えるようになることを願っている」(ボロビコフ氏)

 データのバイアスは多くの企業や業界にとって依然タブーになっている。FairLensはデータのバイアスを舞台裏で検出し、それを軽減する。

データ駆動の弊害

 自動車保険、健康保険、生命保険などの保険契約アプリケーションは、データに基づいて意思決定している。そのデータの品質が低かったりバイアスがあったりするとアプリケーションは本質的に偏るため、意図した目的を達成できない。

 データを点検することで、これまで過小評価されて十分なサービスを受けることができなかった顧客が公平な結果と権利を確保できるとSynthesizedは考えている。

 これは規制違反のリスクを大幅に削減し、企業ブランドを守るのに役立つ可能性もある。

ITmedia マーケティング新着記事

news038.jpg

生活者の生成AI利用動向 10代後半はすでに5割近くが経験――リクルート調査
テキスト型生成AIサービスの利用経験者の割合は若い年代ほど高く、特に10代後半はすでに5...

news108.jpg

今度の「TikTok禁止」はこれまでとどう違う?
米国ではまたしてもTikTok禁止措置が議論されている。これまでは結局実現に至らなかった...