IT業界で「モラルに反するAI利用」の暴露が活発化する“笑えない事情”AI技術の倫理を巡る「内部告発」【前編】

Forrester Researchによれば、IT業界ではAI技術の「倫理性の欠如」に懸念を示す傾向が強まっており、状況を憂慮した従業員からの内部告発が目立ち始めている。何が起きているのか。

2023年03月14日 10時00分 公開
[Makenzie HollandTechTarget]

 IT業界で働く人の間では、倫理(モラル)面で懸念がある技術の使用に、反対する傾向が強まっている――。調査会社Forrester Researchは、顧客調査データに基づく予測レポート「Predictions 2023」で、こう指摘する。同社によると、特に人工知能(AI)技術に関心を寄せるITリーダーは、AI技術を使用する際の大きな障壁として「信頼の欠如」を挙げている。

IT業界で「モラルに反するAI利用」の内部告発が活発化の“謎”

 AI技術が非難を浴びることが珍しくなくなっている。企業が従業員の行動を監視するAIツールを、従業員が問題視することは、その一例だ。住宅ローンや求人応募など、企業が審査や承認をするプロセスで、AIエンジンによる意思決定ツールを使っていることを問題視する専門家もいる。

 2021年10月、Facebook社(現Meta Platforms)の元プロダクトマネージャーであるフランシス・ホーゲン氏は、同社のコンテンツランキングアルゴリズムが一貫して暴力的で過激なコンテンツの掲載順位を高めていたことを告発。IT企業がAI技術を活用する際の倫理的問題に光を当てた。ホーゲン氏は、コンテンツランキングアルゴリズムが引き起こす被害、特に写真共有サービス「Instagram」が10代のエンドユーザーに与えた悪影響に関する調査を、同社が隠蔽(いんぺい)していたと主張する。

 調査会社Deep Analysisの創業者、アラン・ペルツシャープ氏の見立てによれば、IT企業には従業員が不快感を覚える問題がまん延しており、ホーゲン氏のような内部告発はさらに増える可能性がある。特にAI技術の台頭は「間違いなく、より多くの内部告発者を生み出す」とペルツシャープ氏はみる。


 中編は「倫理的ではないIT利用」の内部告発が企業にもたらす影響を解説する。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

ITmedia マーケティング新着記事

news171.png

2024年のGW予算は横ばい 賃上げよりも物価高と円安の影響が勝る?――インテージ調査
インテージが全国の15歳から79歳の男女を対象に実施したゴールデンウイークに関する調査...

news148.jpg

CNN幹部が語る、メディアビジネスにとってのAIのリスクと機会
生成AIがコンテンツを量産し、真偽の明らかでない情報があふれかえる中、メディアの価値...

news016.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2024年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。