バイアスを排除することの重要性
データの「偏見」を可視化するPythonライブラリの真の価値とは何か
機械学習に使うデータに年齢や人種、性別に関わるバイアスが含まれていると、AIは誤った推論を出力する。FairLensはこれらのバイアスを可視化し、公平性に寄与する。それによって得られる真の恩恵とは？
データのバイアス（偏り、偏見）に対する保険が必要だ。特にAIにデータを提供する機械学習には欠かせない。機械学習の誤差は、データ内のある要素が他の要素よりも高く重み付けされ、非常に強く現れる場合に発生する。
英国のスタートアップ企業SynthesizedのDataOpsプラットフォームは、データにあるバイアスを見つける手段を提供する。このバイアスが軽減されれば、例えば保険の見積もり、賠償請求、保険の掛け金が公平になる可能性がある。
オープンソースのPythonライブラリ
iStock.com/designer491
Synthesizedはデータのバイアスを識別および計測するオープンソースのPythonライブラリ「FairLens」を発表した。
Synthesizedのデニス・ボロビコフ氏（共同創設者でCTO：最高技術責任者）は、データサイエンスモデルの多くのデータには年齢や人種、性別などのバイアスがあると話す。
「FairLensはデータのバイアスを見つけて可視化する数学的なフレームワークだ。FairLensによってデータをより深く理解することで、分析やデータサイエンスのタスクでそのデータを公平かつ倫理的に使えるようになることを願っている」（ボロビコフ氏）
データのバイアスは多くの企業や業界にとって依然タブーになっている。FairLensはデータのバイアスを舞台裏で検出し、それを軽減する。
データ駆動の弊害
自動車保険、健康保険、生命保険などの保険契約アプリケーションは、データに基づいて意思決定している。そのデータの品質が低かったりバイアスがあったりするとアプリケーションは本質的に偏るため、意図した目的を達成できない。
データを点検することで、これまで過小評価されて十分なサービスを受けることができなかった顧客が公平な結果と権利を確保できるとSynthesizedは考えている。
これは規制違反のリスクを大幅に削減し、企業ブランドを守るのに役立つ可能性もある。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly日本語版
この記事の著者
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[Jamf Japan 合同会社] MDMだけでモバイルセキュリティは十分？ 不足する対策を16項目でチェック -
製品資料
[株式会社ウェーブスプリッタ・ジャパン] 100Gbps対応の光トランシーバーはどう選ぶ？ 10分で分かる選定のポイント -
製品資料
[株式会社フィックスターズ] 組み込み開発の生産性と機密性を両立、自社環境で構築する「セキュアAI」活用術 -
製品レビュー
[ServiceNow Japan合同会社] 問い合わせの約9割を自動で解決、AI主導の自律型CRMがもたらす業務変革の全貌 -
市場調査・トレンド
[ServiceNow Japan合同会社] AI活用が業務自動化で止まる理由は何か？ 調査で判明した課題と変革への道筋
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
AI全部入り「Microsoft 365 E7」に企業が二の足を踏む訳 移行意向はわずか4％
-
2
なぜOpenAIやAnthropicのAIは「脱走」したのか 情シスが迫られるエージェント統制
-
3
【基本情報技術者試験】「デュプレックスシステム」と「デュアルシステム」の違いは？
-
4
Anthropicが明かす AIは入力データを「どこまで覚えているのか」
-
5
GitHubが指摘 AIが書いた「おそらく動くコード」が招くシステム崩壊
-
6
「高すぎるGPU」を捨てAI推論をCPUへ Armが示す電力とコストの現実解
-
7
「Microsoft一択」で本当にいいのか 知らぬ間にライセンス費用が膨らむ真相
-
8
MS月例パッチが1000件突破 人手不足の情シスを襲う「月1回メンテ」の崩壊
-
9
「データストレージの活用方法」に関するアンケート
-
10
【漫画付き】"RAG導入失敗3例"と処方箋 「入れても使われない」を終わらせる
ホワイトペーパーランキング PR
-
1
生成AIのハルシネーションを防止 回答精度を高めるセマンティックレイヤーとは
-
2
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
-
7
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
8
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
-
9
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
10
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー