AI技術の倫理を巡る「内部告発」【中編】

「モラルのないIT利用」の暴露が企業に及ぼす“痛過ぎる影響”

IT使用時の倫理性の欠如を問題視した従業員が、その問題を暴露する――。こうした内部告発がIT業界で活発化しつつある。内部告発が企業に及ぼす影響とは。TwitterとFacebookの内部告発を例に考える。

公開 2023年03月21日 08時15分

[TechTarget]

印刷する連載新着通知を受け取る

　公的機関やメディアに対して、不正行為や危険行為を報告する内部告発者。IT業界の内部告発者は「過去数十年間、広い世界に向けて不正行為を警告してきた」と、調査会社Deep Analysisの創業者、アラン・ペルツシャープ氏は指摘する。ペルツシャープ氏によると内部告発者が暴露する内容は、倫理（モラル）の観点で問題のある技術の使い方や慣行にシフトしている。

　調査会社Forrester Researchは顧客調査データに基づく予測レポート「Predictions 2023」の中で、2023年にはIT業界全体で「今まで以上に多くの内部告発者が名乗りを上げる」と予想する。内部告発は、IT企業にどのような影響を及ぼすのか。

「モラルに反するIT利用」の内部告発が企業に及ぼす影響はこれだ

併せて読みたいお薦め記事

連載：AI技術の倫理を巡る「内部告発」

前編：IT業界で「モラルに反するAI利用」の暴露が活発化する“笑えない事情”

「ChatGPT」の衝撃

　Twitter社のセキュリティ問題を内部告発した、同社の元セキュリティ責任者であるピーター・ザトコ氏（通称「マッジ」）は2022年9月、米上院司法委員会の公聴会に出席。短文投稿サイト「Twitter」の機密性の高い情報に、Twitter社従業員の「大半がアクセスできる状態になっており、Twitterには基本的なセキュリティ対策が欠けている」と証言した。

　2021年10月、Facebook社（現Meta Platforms）の元プロダクトマネージャーであるフランシス・ホーゲン氏は、同社のコンテンツランキングアルゴリズムが一貫して暴力的で過激なコンテンツの掲載順位を高めていたことを告発。この告発によって「Meta Platformsの市場価値は60億ドル損なわれた」と、調査会社GlobalDataのアナリストであるスニート・ムル氏は述べる。

　内部告発は収益だけではなく「将来の従業員やパートナー企業の減少といった影響を、企業に与える可能性がある」とペルツシャープ氏は語る。ムル氏によると内部告発者の影響力は、測定は難しいものの、リーク自体の規模と関連付けることはできる。ホーゲン氏が明るみに出した情報量は「これまでのリークが小さく見えるほど大規模なものだった」とムル氏は指摘。同時に「知名度の低い事例を主流メディアの目に留まらせることになった」と説明する。

　後編は、今後あらゆる業界のCIO（最高情報責任者）が考慮すべき「倫理的なIT戦略」を解説する。