TechTarget発 世界のITニュース
AWS、AIの偏見を防ぐ「Amazon SageMaker Clarify」を発表 AI倫理問題に対処
AWSが発表した「Amazon SageMaker Clarify」は、機械学習モデルに内在するバイアスを検出する。昨今議論が激化している、AI技術に内在する差別問題への対処を支援する。
Amazon Web Services（以下、AWS）は2020年12月8日（現地時間） 、同社が提供する機械学習モデル構築ツール「Amazon SageMaker」の新たな機能「Amazon SageMaker Clarify」（以下、SageMaker Clarify）を発表した。SageMaker Clarifyを使うことで、エンドユーザーは機械学習モデルに含まれるバイアス（偏見）を軽減できるという。
「AI倫理」に関する議論の激化が背景に
機械学習では、モデルのトレーニングに使われたデータの偏りやアルゴリズムから、データにバイアスが生じる可能性がある。バイアスが存在すると、機械学習による予測精度は落ちる。
SageMaker Clarifyは、学習用データやデプロイ（配備）された機械学習モデルを調査することで、データに存在する潜在的なバイアスを検出する。例えば学習用データや機械学習モデルに年齢に関する偏りがないかどうかを確認し、考えられるさまざまなバイアスを定量化したレポートを出力する。
AWSのAmazon AI部門でバイスプレジデントを務めるスワミ・シバスブラマニアン氏は同社の年次イベント「AWS re:Invent 2020」の基調講演で、SageMaker Clarifyを紹介した。昨今では、AI（人工知能）倫理や機械学習モデルにおけるバイアスの影響、バイアスが顔認識や他のAIシステムで人種差別を引き起こす可能性などについての議論が社会で激化している。
2020年12月にはAWSの競合ベンダーであるGoogleが、自社のAI研究者だった女性を解雇したことが話題になった。 解雇された研究者によると事の発端は、彼女がGoogleによる女性と有色人種の扱いを批判し、言語処理のための機械学習モデル（以下、言語モデル）に関する懸念を議論する研究論文を共著で発表したことだという。彼女は、Googleに研究論文から彼女の名前を削除するように求められ、それに応じなかったことで解雇されたと述べた。研究論文は、Googleの言語モデルにはバイアスが含まれ、ヘイトスピーチ（差別的言動）につながる可能性があったと説明している。
TechTarget発 世界のITニュース
新製品・新サービスや調査結果、セキュリティインシデントなど、米国TechTargetが発信する世界のITニュースをタイムリーにお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のITニュース
新製品・新サービスや調査結果、セキュリティインシデントなど、米国TechTargetが発信する世界のITニュースをタイムリーにお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[LRM株式会社] 「標的型攻撃メール」事例・サンプル集 -
製品資料
[LRM株式会社] セキュリティ教育はなぜ「年間計画」を立てる必要があるのか？ -
製品資料
[LRM株式会社] セキュリティの重要性が伝わらない…… 効果がない社員教育から脱却する方法 -
製品資料
[LRM株式会社] 「標的型攻撃メール訓練」導入ガイド 社員の意識を確実に高める仕組みの作り方 -
事例
[株式会社マクニカ] アイカ工業に学ぶ脆弱性対策 情シスが把握できずにいたアセットも正確に把握
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
2
「VMware離れ」は本当か 3000社がVCF 9にかじを切った現実的な理由
-
3
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
4
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
5
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
6
ISMSの“コンサル丸投げ”が招く数千万円の無駄 NTTドコモビジネスの脱出劇
-
7
AI全部入り「Microsoft 365 E7」に企業が二の足を踏む訳 移行意向はわずか4％
-
8
自宅のWi-Fiが「遅い」「途切れる」本当の原因は？ Dellが推奨する鉄則
-
9
なぜOpenAIやAnthropicのAIは「脱走」したのか 情シスが迫られるエージェント統制
-
10
エンジニアが選考を辞退する本当の理由 7割が隠す“面接の違和感”とは
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
8
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
9
Macの安全神話は崩壊？ 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
10
情報セキュリティ対策早分かりガイド：25の自社診断で弱点と解決策を理解
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー