AI技術の倫理を巡る「内部告発」【前編】

IT業界で「モラルに反するAI利用」の暴露が活発化する“笑えない事情”

Forrester Researchによれば、IT業界ではAI技術の「倫理性の欠如」に懸念を示す傾向が強まっており、状況を憂慮した従業員からの内部告発が目立ち始めている。何が起きているのか。

公開 2023年03月14日 10時00分

[TechTarget]

印刷する連載新着通知を受け取る

　IT業界で働く人の間では、倫理（モラル）面で懸念がある技術の使用に、反対する傾向が強まっている――。調査会社Forrester Researchは、顧客調査データに基づく予測レポート「Predictions 2023」で、こう指摘する。同社によると、特に人工知能（AI）技術に関心を寄せるITリーダーは、AI技術を使用する際の大きな障壁として「信頼の欠如」を挙げている。

IT業界で「モラルに反するAI利用」の内部告発が活発化の“謎”

併せて読みたいお薦め記事

「ChatGPT」の衝撃

　AI技術が非難を浴びることが珍しくなくなっている。企業が従業員の行動を監視するAIツールを、従業員が問題視することは、その一例だ。住宅ローンや求人応募など、企業が審査や承認をするプロセスで、AIエンジンによる意思決定ツールを使っていることを問題視する専門家もいる。

　2021年10月、Facebook社（現Meta Platforms）の元プロダクトマネージャーであるフランシス・ホーゲン氏は、同社のコンテンツランキングアルゴリズムが一貫して暴力的で過激なコンテンツの掲載順位を高めていたことを告発。IT企業がAI技術を活用する際の倫理的問題に光を当てた。ホーゲン氏は、コンテンツランキングアルゴリズムが引き起こす被害、特に写真共有サービス「Instagram」が10代のエンドユーザーに与えた悪影響に関する調査を、同社が隠蔽（いんぺい）していたと主張する。

　調査会社Deep Analysisの創業者、アラン・ペルツシャープ氏の見立てによれば、IT企業には従業員が不快感を覚える問題がまん延しており、ホーゲン氏のような内部告発はさらに増える可能性がある。特にAI技術の台頭は「間違いなく、より多くの内部告発者を生み出す」とペルツシャープ氏はみる。

　中編は「倫理的ではないIT利用」の内部告発が企業にもたらす影響を解説する。