「感情分析AI」の倫理的問題【後編】
AIの技術的限界「表情は読めるが、感情は読めない」がもたらす深刻な問題
感情分析にAI技術を生かそうとする動きがある。一方で幾つかの研究は、AI技術が人の感情を正確に判断できていない可能性を示唆している。こうした中で起こり得る問題とは。
感情を分析するAI（人工知能）技術の効果や倫理に関する議論は尽きない。たとえAI技術を実装したソフトウェアが人の表情を正確に読み取ったとしても、その感情を正確に判断できない可能性がある。
「感情分析AI」の限界とは 研究結果の気になる中身
併せて読みたいお薦め記事
連載：「感情分析AI」の倫理的問題
Web会議ツールの選び方
ノースイースタン大学（Northeastern University）の心理学教授リサ・フェルドマン・バレット氏のチームが2019年に発表した論文「Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements」によれば、顔の表情の信頼性には限界がある。例えば、しかめ面は怒りだけではなく、困惑や集中を表している可能性がある。文化や個々の状況も、人の感情表現に影響を与え得る。
顔認識AIツールは人種の分析も苦手としている。メリーランド大学（University of Maryland）のローレン・ルー氏が2018年に発表した論文「Racial Influence on Automated Perceptions of Emotions」によれば、顔認識ソフトウェアが「負の感情を持っている」と判断する頻度は、白人よりも黒人の方が高かった。
「AI技術をベースとした感情分析機能を導入するということは、何百万人ものエンドユーザーが利用する業務用ソフトウェアに、間違いだらけのツールを組み込むことを意味する」。各人権団体は、Zoom Video Communicationsの感情分析研究の中止を訴える共同書簡の中で、こう指摘する。
Zoom Video CommunicationsはWeb会議の価値を高める目的でAI技術に注目している。同社が2022年4月に発表した営業チーム向けツール「Zoom IQ」は、見込み客の質問数といったデータを使ってWeb会議の内容を分析し、相手が乗り気かどうかを判断する。同社はZoom IQを皮切りに、AI技術でWeb通話のパフォーマンスを高めるアドオンを提供する計画を立てている。
Fight for the Futureのキャンペーンディレクター、ケイトリン・シーリー・ジョージ氏は、Zoom IQの感情分析ですら「問題がある」と指摘する。Zoom IQは障害者や文化背景が異なる人、英語を母国語としない人のデータを読み誤る可能性があるという。「Zoom Video Communicationsのように、絶大な影響力を持つベンダーは、自分たちがどのような機能を提供するのか、自分たちが認識しない形でいかに損害を発生させ得るのかに関して批判的になる必要がある」（ジョージ氏）
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
なぜワンキャリアは障害復旧を3時間から1時間以内に短縮できたのか -
製品資料
自社のDevSecOpsはどこまで進んでいる？ 進捗を測る指針“成熟度モデル”とは -
製品資料
実際に悪用される脆弱性は4％前後 優先的に対処すべき脆弱性を把握するには？ -
事例
三菱ケミカルが脆弱性への迅速な対応フローを実現した方法とは？ -
技術文書・技術解説
MDMだけでは防げない？ Appleデバイスに潜む5つのセキュリティギャップ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
IT人材の42％が転職予備軍 辞めさせない組織の4つの共通
-
2
契約作成からKYCまでAIが完結 独金融大手が3000人を削減してまで狙う破壊的効率化
-
3
LLMの「過学習」、正しく説明している文章はどれ？
-
4
「HDD終了」は本当か 巨大クラウド2社が下した大容量フラッシュへの決断
-
5
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
6
GitHub Copilotを使いこなす第一歩 初めてのプロンプト6つのコツ
-
7
「業務改善とツール活用」に関するアンケート
-
8
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには？
-
9
取手市がVDIと決別した理由 更改費用「4倍超」を約1.7倍に圧縮
-
10
【漫画付き】"RAG導入失敗3例"と処方箋 「入れても使われない」を終わらせる
ホワイトペーパーランキング PR
-
1
属人化や仕様バグはなぜ起きる？ AI時代に必須のドキュメント文化の作り方
-
2
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
中小企業必見、Microsoft 365でゼロトラストセキュリティを実現する方法
-
6
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは？
-
7
“あのファイル転送”で暗躍するノーウェアランサム
-
8
5分で分かる「AI駆動開発エージェント」 要件定義から設計・実装・テストまで
-
9
動画で知るランサムウェア被害企業のリアル、会計データが無事だった理由とは
-
10
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー