AIの技術的限界「表情は読めるが、感情は読めない」がもたらす深刻な問題「感情分析AI」の倫理的問題【後編】

感情分析にAI技術を生かそうとする動きがある。一方で幾つかの研究は、AI技術が人の感情を正確に判断できていない可能性を示唆している。こうした中で起こり得る問題とは。

2022年07月15日 05時00分 公開
[Mike GleasonTechTarget]

 感情を分析するAI(人工知能)技術の効果や倫理に関する議論は尽きない。たとえAI技術を実装したソフトウェアが人の表情を正確に読み取ったとしても、その感情を正確に判断できない可能性がある。

「感情分析AI」の限界とは 研究結果の気になる中身

 ノースイースタン大学(Northeastern University)の心理学教授リサ・フェルドマン・バレット氏のチームが2019年に発表した論文「Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements」によれば、顔の表情の信頼性には限界がある。例えば、しかめ面は怒りだけではなく、困惑や集中を表している可能性がある。文化や個々の状況も、人の感情表現に影響を与え得る。

 顔認識AIツールは人種の分析も苦手としている。メリーランド大学(University of Maryland)のローレン・ルー氏が2018年に発表した論文「Racial Influence on Automated Perceptions of Emotions」によれば、顔認識ソフトウェアが「負の感情を持っている」と判断する頻度は、白人よりも黒人の方が高かった。

 「AI技術をベースとした感情分析機能を導入するということは、何百万人ものエンドユーザーが利用する業務用ソフトウェアに、間違いだらけのツールを組み込むことを意味する」。各人権団体は、Zoom Video Communicationsの感情分析研究の中止を訴える共同書簡の中で、こう指摘する。

 Zoom Video CommunicationsはWeb会議の価値を高める目的でAI技術に注目している。同社が2022年4月に発表した営業チーム向けツール「Zoom IQ」は、見込み客の質問数といったデータを使ってWeb会議の内容を分析し、相手が乗り気かどうかを判断する。同社はZoom IQを皮切りに、AI技術でWeb通話のパフォーマンスを高めるアドオンを提供する計画を立てている。

 Fight for the Futureのキャンペーンディレクター、ケイトリン・シーリー・ジョージ氏は、Zoom IQの感情分析ですら「問題がある」と指摘する。Zoom IQは障害者や文化背景が異なる人、英語を母国語としない人のデータを読み誤る可能性があるという。「Zoom Video Communicationsのように、絶大な影響力を持つベンダーは、自分たちがどのような機能を提供するのか、自分たちが認識しない形でいかに損害を発生させ得るのかに関して批判的になる必要がある」(ジョージ氏)

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

髫エ�ス�ス�ー鬨セ�ケ�つ€驛「譎擾スク蜴・�。驛「�ァ�ス�、驛「譎冗樟�ス�ス驛「譎「�ス�シ驛「譏懶スサ�」�ス�ス

事例 株式会社イージフ

業務アプリやコラボツールに散在するコンテンツ、他社はどう管理している?

情報の量と種類が急増する今、社内の各種ツールに散在する情報を単一の保存先で管理することはますます難しくなった。こうした情報を部門を超えて連携させて、効率的に活用するには、どうすればよいのか。4社の事例を基に、解決策を探る。

製品資料 株式会社イージフ

企業規模に応じて難しくなるコンテンツ管理、社内外での共有を楽にするには?

文書や画像、動画などのコンテンツ管理は、企業の規模が大きくなるにつれて難しくなる。チームやプロジェクトごとに社内外で情報を共有したり、法的保存義務のある文書などを適切に管理したりするには、どのようなアプローチが有効なのか。

事例 株式会社イージフ

Lotus Notesの文書管理基盤のリプレース事例に見る、情報共有を合理化するコツ

あるハウスメーカーでは、約300箇所に展開する展示場と本社との情報共有に課題を抱えていた。従来はLotus Notesの掲示板機能を使用していたが、それでは異なる種類の文章を一元管理できなかったという。同社の解決方法を詳しく解説する。

事例 株式会社イージフ

非効率な検索作業を解消した、メーカーの文書管理システム刷新の取り組み

グローバルで生産販売事業を展開しているあるメーカーでは、既存の文書管理システムの非効率さや、訴訟時のeディスカバリ対応などに課題を抱えていた。同社はこれらの課題を解消すべく、文書管理システム刷新に踏み切った。

製品資料 j2 Global Japan有限会社

FAX運用を改善、コスト削減にとどまらない「クラウド化」のメリットとは?

業務効率化やコスト削減を目的にさまざまな業務で紙からの脱却が進む中、「取引先の希望でFAXを廃止できない」といったFAX運用の課題を解消すべく、クラウドFAXへの期待が高まっている。その導入メリットを解説する。

アイティメディアからのお知らせ

郢晏生ホヲ郢敖€郢晢スシ郢ァ�ウ郢晢スウ郢晢ソスホヲ郢晢ソスPR

From Informa TechTarget

「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ

「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ
ネットワークの問題は「帯域幅を増やせば解決する」と考えてはいないだろうか。こうした誤解をしているIT担当者は珍しくない。ネットワークを快適に利用するために、持つべき視点とは。

AIの技術的限界「表情は読めるが、感情は読めない」がもたらす深刻な問題:「感情分析AI」の倫理的問題【後編】 - TechTargetジャパン 情報系システム 隴�スー騾ケツ€髫ェ蛟�スコ�ス

TechTarget郢ァ�ク郢晢ス」郢昜サ」ホヲ 隴�スー騾ケツ€髫ェ蛟�スコ�ス

ITmedia マーケティング新着記事

news017.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news027.png

「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。

news023.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...