コロナ禍に伴うテレワーク下、AIを応用したシステムで従業員を監視する企業があるという。Gartnerによるとそうした従業員の1割以上が監視システムを欺くという。
ロックダウンによって、オフィス外にいる従業員を監視するシステムの需要が大幅に増加している。その一方で、プライバシーや倫理の観点から、さらには監視が本当に必要かどうかという点で、監視システムの使用に疑問が投げ掛けられている。
Gartnerのホイット・アンドリュース氏(リサーチバイスプレジデント)は次のように語る。「多くの企業が恒久的なテレワークに移行している。これにはコストがかかり、文化も変える必要がある。従業員の行動を直接見守ることに慣れている文化にとって、テレワークは従業員の行動をデジタルで(場合によってはAIを使って)監視することを余儀なくする」
「これまで、従業員を制約する技術を幾つも目にしてきた。そうした技術と同様、従業員はAIによる監視のすきを見つけ出すだろう。従業員がすきを見つけ出そうとする理由はさまざまだ。作業負荷を下げようとすることもあれば、より多くの報酬を得ようとする場合もある。単に監視者を困らせたいだけかもしれない。AIを欺けるかどうかを賭けたゲームのように考えるかもしれない」
Gartnerによると、AIで従業員の行動を分析する企業もあるという。そうしたシステムはEコマースサイトが買い物客の行動を分析するアプローチと同じように機能する。その大半はアラート機能を備えたアクティビティーログ機能を提供する。Gartnerによると、ポジティブな行動の検出や不正行為の分析を試みる洗練度の高いシステムもあるという。
監視システムは魅力的ではないと感じる従業員の比率が高いにもかかわらず、そうしたシステムを使っている企業は多い。Gartnerの調査によると、パンデミック前でさえ、従業員は仕事を追跡・監視する技術を懸念していたという。こうした技術やシステムが普及するにつれ、それらを擦り抜け、制圧しようとする従業員が増えるとGartnerは考えている。
「AIによる監視システムの導入を検討しているIT部門の責任者は、そのデータソース、ユーザーエクスペリエンスの設計、対象とするユースケースを注意深く調査してから投資する必要がある。データを収集する範囲と目的が、従業員をサポートするためなのかどうかを判断する。投資の決定者であれば、その技術が倫理的に実装されることを確認すべきだ」(アンドリュース氏)
2020年8月、BarclaysがSapience Analyticsのリモート監視ソフトウェアを使って従業員を調べていることについて、ICO(Information Commissioner's Office:英国個人情報保護監督機関)が調査を開始した。Sapienceは数千のデータポイント(企業の隅々からのデジタル出力)を15秒ごとに集約し、人、プロセス、技術に関する「前例のないレベルによる運用の可視性」(同社談)を提供するとしている。
Barclaysはこのシステムのトライアルを実施したが、従業員の反発を受けて使用を中止した。ICOはBarclaysが従業員のプライバシーを侵害した程度を調査している。
Barclaysの事例はこうした技術の負の影響を示している。Gartnerによると、従業員がこうした技術のすきを探す可能性があるという。例えば、
ことでAIを欺ける可能性がある。
生活者の生成AI利用動向 10代後半はすでに5割近くが経験――リクルート調査
テキスト型生成AIサービスの利用経験者の割合は若い年代ほど高く、特に10代後半はすでに5...
2023年のSNS炎上総数は189件、炎上元の媒体1位は「X」――コムニコ「炎上レポート」
コムニコが「炎上レポート」2023年版を公開しました。
今度の「TikTok禁止」はこれまでとどう違う?
米国ではまたしてもTikTok禁止措置が議論されている。これまでは結局実現に至らなかった...