AIの技術的限界「表情は読めるが、感情は読めない」がもたらす深刻な問題「感情分析AI」の倫理的問題【後編】

感情分析にAI技術を生かそうとする動きがある。一方で幾つかの研究は、AI技術が人の感情を正確に判断できていない可能性を示唆している。こうした中で起こり得る問題とは。

2022年07月15日 05時00分 公開
[Mike GleasonTechTarget]

 感情を分析するAI(人工知能)技術の効果や倫理に関する議論は尽きない。たとえAI技術を実装したソフトウェアが人の表情を正確に読み取ったとしても、その感情を正確に判断できない可能性がある。

「感情分析AI」の限界とは 研究結果の気になる中身

 ノースイースタン大学(Northeastern University)の心理学教授リサ・フェルドマン・バレット氏のチームが2019年に発表した論文「Emotional Expressions Reconsidered: Challenges to Inferring Emotion From Human Facial Movements」によれば、顔の表情の信頼性には限界がある。例えば、しかめ面は怒りだけではなく、困惑や集中を表している可能性がある。文化や個々の状況も、人の感情表現に影響を与え得る。

 顔認識AIツールは人種の分析も苦手としている。メリーランド大学(University of Maryland)のローレン・ルー氏が2018年に発表した論文「Racial Influence on Automated Perceptions of Emotions」によれば、顔認識ソフトウェアが「負の感情を持っている」と判断する頻度は、白人よりも黒人の方が高かった。

 「AI技術をベースとした感情分析機能を導入するということは、何百万人ものエンドユーザーが利用する業務用ソフトウェアに、間違いだらけのツールを組み込むことを意味する」。各人権団体は、Zoom Video Communicationsの感情分析研究の中止を訴える共同書簡の中で、こう指摘する。

 Zoom Video CommunicationsはWeb会議の価値を高める目的でAI技術に注目している。同社が2022年4月に発表した営業チーム向けツール「Zoom IQ」は、見込み客の質問数といったデータを使ってWeb会議の内容を分析し、相手が乗り気かどうかを判断する。同社はZoom IQを皮切りに、AI技術でWeb通話のパフォーマンスを高めるアドオンを提供する計画を立てている。

 Fight for the Futureのキャンペーンディレクター、ケイトリン・シーリー・ジョージ氏は、Zoom IQの感情分析ですら「問題がある」と指摘する。Zoom IQは障害者や文化背景が異なる人、英語を母国語としない人のデータを読み誤る可能性があるという。「Zoom Video Communicationsのように、絶大な影響力を持つベンダーは、自分たちがどのような機能を提供するのか、自分たちが認識しない形でいかに損害を発生させ得るのかに関して批判的になる必要がある」(ジョージ氏)

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

譁ー逹€繝帙Ρ繧、繝医�繝シ繝代�

製品資料 双日テックイノベーション株式会社

従来の電話の在り方を見直し、働き方の多様化に柔軟に対応する方法とは?

さまざまなWebシステムが使われるようになった今も、電話はやはりビジネスに不可欠なツールである。とはいえ働き方改革やDXを受け、企業における電話の在り方も大きく変わってきた。そこにフィットするソリューションがクラウドPBXだ。

製品資料 オリックス株式会社

DXで成果を挙げるための第一歩、ペーパーレス化のメリットと正しい進め方とは?

日本企業のDX戦略が遅れている要因の1つに、“守りのIT”にリソースを割かれ、“攻めのIT”に着手できていないことがある。この状況を打破するための第一歩として考えたい“ペーパーレス化”のメリットや、正しい進め方を解説する。

製品資料 株式会社スタディスト

「そのマニュアル、本当に見られている?」 活用されるマニュアルのポイント

業務マニュアルは使われて初めてその効果を発揮するが、そもそも見られていないことから、業務課題を一向に解決できないという企業は多い。“活用されるマニュアル”を作成・共有するには、どんなポイントを押さえるべきか。

製品資料 株式会社スタディスト

現場で使われないマニュアルと決別、活用されるために必要なコツとは

マニュアル作成において、90%以上の組織がビジネスソフトを利用しているが、それでは活用されるマニュアルへのハードルは高い。きちんと現場に使われるマニュアルにするために、ノウハウを把握しておきたい。

製品資料 株式会社スタディスト

DXの推進を阻む「移行コスト」を解消し、新規ツールを浸透させるには?

あらゆる業界でDXの取り組みが加速する一方で、成功を実感している企業は1割にも満たないという。最大の障壁となる「移行コスト」を解消し、新規ツールを「誰にでも使える」状態にするための方法を探る。

From Informa TechTarget

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。

ITmedia マーケティング新着記事

news014.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news046.png

「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。

news026.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年4月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...