AIシステムのバイアスは、人種や性差に基づく誤った判断をもたらすことがある。Amazon.comとFacebookの事例から、現在のAIシステムが抱える課題について考える。
Amazon.comは人工知能（AI）技術を搭載した人材採用向けシステムの開発を2014年から3年間続けていたが、2017年に中止した。後日明らかになったところによると、このAIシステムには女性志願者に対するバイアス（偏見、差別）が含まれていたという。同社はこの問題の解決を試みたが、できなかった。
問題の元凶は、AIエンジンのトレーニングに使っていたデータにある。このデータはIT企業における10年分の求職データで、採用した男女の割合の不均衡を反映していた。AIシステムはそのデータを取り込んで、同じパターンを生成してしまった。
2019年1月にも、AIシステムのバイアスを巡った議論が巻き起こった。その発端は、Amazon.comの子会社であるAmazon Web Servicesが画像、動画分析ツール「Amazon Rekognition」と顔認識ソフトウェアを米政府機関に販売することに「物言う株主」が反対したことだった。その後AIサイエンティストのグループも反対側に加わっている。
Amazon RekognitionのAIエンジンにバイアスが疑われることについて、Amazon.comおよびAWSは強い批判を受けた。AWSは同社のWebサイトにブログ記事を掲載し、見解を示している。
このブログ記事では、AWSで深層学習（ディープラーニング）をはじめとするAI技術の統括マネジャーを務めるマット・ウッド氏が、批判を巻き起こすきっかけとなった研究論文と、研究の「幾つかの誤解と不正確な事実」（同氏見解）についてコメントしている。ウッド氏によれば、推奨しているのとは異なる方法で不適切にツールが使われたことにより、研究結果がゆがめられた可能性があるという。
Copyright © ITmedia, Inc. All Rights Reserved.
生成AIを活用して業務や顧客体験の再構築を進める動きが活性化しているが、その多くが、PoCやラボ環境の段階にとどまっている。なぜなら、生成AIの可能性を最大限に引き出すための、インフラのパフォーマンスが不十分だからだ。
昨今のソフトウェア開発では、AIコーディングアシスタントの活用が主流になっている。しかし、最適なコーディングアシストツールは、開発者や企業によって異なるという。導入の際は、どのようなポイントに注意すればよいのか。
生成AIの活用にはデータベースが重要となるが、従来のデータベースは最新テクノロジーに対応できないなどの課題がある。本資料では、データベースをモダナイズし、生成AIを用いてビジネスイノベーションを生み出すための方法を探る。
ビジネスにおいて、検索体験およびその結果の質の向上が重要なテーマとなっている。顧客はもちろん、自社の従業員に対しても、実用的な答えをより迅速に、手間なく入手できる環境の整備が求められている。
登場以来ビジネスへの活用方法が模索されてきた生成AI。近年では業務組み込みにおける具体的な成功例が数多く報告されている。本資料では、5件の生成AI活用事例を交えて、業務に組み込む上での具体的なアプローチを解説する。
ドキュメントから「価値」を引き出す、Acrobat AIアシスタント活用術 (2025/3/28)
広がるIBM i の可能性 生成AIによる基幹システム活用の新たな技術的アプローチ (2025/3/28)
「NVIDIAのGPUは高過ぎる……」と諦める必要はない？ GPU調達はこう変わる (2025/3/11)
PoCで終わらせない企業の生成AI活用 有識者が語る、失敗を避けるためのノウハウ (2024/10/18)
生成AIのビジネス利用 すぐに、安全に使うためには？ (2024/8/26)
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ（仮想PC画面）は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「マーケティングオートメーション」 国内売れ筋TOP10（2025年5月）
今週は、マーケティングオートメーション（MA）ツールの売れ筋TOP10を紹介します。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年4月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年4月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
ITmediaはアイティメディア株式会社の登録商標です。
