「感情分析AI」の倫理的問題【後編】
AIの技術的限界「表情は読めるが、感情は読めない」がもたらす深刻な問題
感情分析にAI技術を生かそうとする動きがある。一方で幾つかの研究は、AI技術が人の感情を正確に判断できていない可能性を示唆している。こうした中で起こり得る問題とは。
感情を分析するAI（人工知能）技術の効果や倫理に関する議論は尽きない。たとえAI技術を実装したソフトウェアが人の表情を正確に読み取ったとしても、その感情を正確に判断できない可能性がある。
「感情分析AI」の限界とは 研究結果の気になる中身
併せて読みたいお薦め記事
連載：「感情分析AI」の倫理的問題
Web会議ツールの選び方
ノースイースタン大学（Northeastern University）の心理学教授リサ・フェルドマン・バレット氏のチームが2019年に発表した論文「Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements」によれば、顔の表情の信頼性には限界がある。例えば、しかめ面は怒りだけではなく、困惑や集中を表している可能性がある。文化や個々の状況も、人の感情表現に影響を与え得る。
顔認識AIツールは人種の分析も苦手としている。メリーランド大学（University of Maryland）のローレン・ルー氏が2018年に発表した論文「Racial Influence on Automated Perceptions of Emotions」によれば、顔認識ソフトウェアが「負の感情を持っている」と判断する頻度は、白人よりも黒人の方が高かった。
「AI技術をベースとした感情分析機能を導入するということは、何百万人ものエンドユーザーが利用する業務用ソフトウェアに、間違いだらけのツールを組み込むことを意味する」。各人権団体は、Zoom Video Communicationsの感情分析研究の中止を訴える共同書簡の中で、こう指摘する。
Zoom Video CommunicationsはWeb会議の価値を高める目的でAI技術に注目している。同社が2022年4月に発表した営業チーム向けツール「Zoom IQ」は、見込み客の質問数といったデータを使ってWeb会議の内容を分析し、相手が乗り気かどうかを判断する。同社はZoom IQを皮切りに、AI技術でWeb通話のパフォーマンスを高めるアドオンを提供する計画を立てている。
Fight for the Futureのキャンペーンディレクター、ケイトリン・シーリー・ジョージ氏は、Zoom IQの感情分析ですら「問題がある」と指摘する。Zoom IQは障害者や文化背景が異なる人、英語を母国語としない人のデータを読み誤る可能性があるという。「Zoom Video Communicationsのように、絶大な影響力を持つベンダーは、自分たちがどのような機能を提供するのか、自分たちが認識しない形でいかに損害を発生させ得るのかに関して批判的になる必要がある」（ジョージ氏）
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[キヤノンマーケティングジャパン株式会社] マンガで学ぶXDR／MDRのメリット、中小企業のセキュリティ強化になぜ有効か？ -
市場調査・トレンド
[キヤノンマーケティングジャパン株式会社] 有識者が語る、中堅中小企業に求められる最新のサイバーセキュリティ対策とは -
製品資料
[キヤノンマーケティングジャパン株式会社] マンガで解説：情シスの負担を減らす「MDRサービスのインシデント対応」の中身 -
市場調査・トレンド
[SANS Training Japan 合同会社] “知識”では守れない AI時代に問われる実戦力の身に付け方 -
製品資料
[株式会社イトーキ] 会議室不足を解決する「AI×データ」活用術
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に？ ベテランエンジニアを追い込む“54歳の壁”
-
2
年収が増えても幸せになれない 給与増でエンジニアが直面する「幸福度の壁」
-
3
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
4
SAPやOracleが警戒する「ERPの土管化」 汎用AIとの主導権争いが激化
-
5
Microsoft 365移行で露呈した標準機能の限界 地方銀行は上長承認や「脱PPAP」をどう実現？
-
6
「また同じ説明か」 消費者の半数が離脱するAIチャットbotの“記憶喪失”
-
7
米国防総省で300万人分の個人情報が流出 その「意外な原因」と教訓
-
8
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
9
Microsoft 365導入後も稟議は「Excelをメールで回覧」 承認が止まる理由
-
10
「Windows」の不要なファイルを安全に消して容量を空ける方法
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
3
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
4
「IT史に名を残すシステム障害」8選
-
5
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
6
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
7
SASE選定は「見極め力」で大きな差――本当に必要な製品を選ぶための6つの視点
-
8
マンガで学ぶXDR／MDRのメリット、中小企業のセキュリティ強化になぜ有効か？
-
9
脱VMwareに成功した企業は何をどう実践した？ 事例に学ぶ戦略立案＆実装のコツ
-
10
自社データから高精度な回答を生成、簡単に生成AIチャットボットを構築する方法
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー