アルゴリズムによる人事管理【前編】
顕在化してきた「AIベースの人事管理」のリスク
人間から偏見を排除するのは難しい。これを克服するために導入したアルゴリズムにもやはりリスクがある。既に発生しているリスクとは何か。
人間による管理は悲惨な結果につながることがある。「昔のタクシー業界では、運転手が虐待されていた」と話すのは、非営利団体Worker Info Exchange(WIE)のジェームズ・ファラー氏(ディレクター)だ。
「仕事を与えられる運転手と与えられない運転手がいる。つまり、配車係に気に入られなければ仕事にありつけない」。賄賂を要求する配車係もいた。その結果、配車業務のアルゴリズム化は大いに歓迎された。
だが、アルゴリズムによる管理とプロセスの自動化が新たな問題をもたらしている。
人間に反旗を翻すアルゴリズム
WIEが公開したレポート「Managed by bots」によると、「ある自営業者が他人に自分のアカウントを使わせている」と顔認識ソフトウェアが誤認し、さらにそれを人間が確認するのをソフトウェアが拒否した。
顔認識ソフトウェアは、肌の色が濃いと精度が落ちる傾向がある。ロンドン交通局に登録されている個人タクシーの運転手の94%は少数民族出身であり、これは「既に雇用が不安定な労働者にとって悲惨な結果になる」という(訳注)。
訳注:ロンドンのタクシーは「ブラックキャブ」と「ミニキャブ」に大別される。ブラックキャブの運転手の大半は白人のイギリス人で、ミニキャブの運転手は外国人が多いといわれている。本文のタクシー運転手はミニキャブあるいはUberを想定したものと思われる。
ファラー氏は、運転手の数が過剰になるなどの問題が生じていると言う。運転手が多ければ客の待ち時間は短くなる。だが各運転手の仕事は減少して生計を立てるのが難しくなり、道路も混雑する。
特に仕事の割り当てと業績管理にITを使う場合は透明性を確保する必要がある。セキュリティや詐欺防止を言い訳にしてはならない。また、人生を変える決定に自動化を単独で使用すべきではない。
労働組合の役割
英国労働組合会議(TUC:Trades Union Congress)も同様の要請を行っている。TUCは48の労働組合の連合体だ。TUCのメアリー・タワーズ氏(雇用権政策担当者)は、労働組合は賃金などのデータの処理と分析において新たな役割を果たすことができると言う。「そうした集団的支援がなければ、従業員が自分のデータを管理するのは非常に難しいだろう」
データは、分析にも同一賃金請求などの行動の基礎としても利用できる。労働組合はデータ保護法の下、組合員の正式な代表として行動できる。組合員に自主的にデータを収集するように要請することも可能だ。
労働組合と企業の交渉には、自動化やAIに従業員のデータを使う方法も含めることができる。Royal Mail Group(RMG)とCommunication Workers Union(CWU)の労働協約(2022年更新)には、「職場や業務上の意思決定を人間以外に委ねるためにITを使用しない。ITを使用する場合は情報に基づく議論をサポートするようにITを設計し、いかなる形でもいかなる形式でもそのITを置き換えてはならない」と記されたセクションが含まれている。
タワーズ氏によると、ITをうまく使いたいなら「協調的で社会的なパートナーシップアプローチ」を目指すべきだという。従業員は企業が行っていることを知らない場合が多いと同氏は補足する。使っているITのリストを公開してアクセスできるようにし、従業員が自分のデータに自動的にアクセスできるようにすれば状況を改善できる。
AIの透明性確保
自動化とAIの透明性は法的な観点でも理にかなっていると話すのは、商法事務所Walker Morrisのサリー・ミューイーズ氏(ITおよびデジタル部門責任者)だ。「多くの場合、AIの意思決定の仕組みを人間が理解するのは不可能だ。その意思決定が人員配置や人事に関わる場合は大きな懸念点になる」
これは雇用法上の問題を引き起こす恐れがある。GDPR(EU一般データ保護規則)は、特定の条件を満たさない限り、個人を完全に自動化された意思決定の対象にすることを禁止している。英国政府は2021年9月の協議でこの廃止を提案した。さらにAIにおけるバイアスの監視と検出に個人データを使うことを許可することも提案している。これらはまだ法案としては正式に提出されていない。
自動化されたシステムのバイアスは差別禁止法に違反する可能性がある。仕事や昇進の対象となる人材の選定に自動化されたシステムを使っている場合、企業に深刻なリスクがもたらされるとミューイーズ氏は言う。体系的または潜在的に個人データに悪影響を及ぼすプロジェクトの場合、プライバシーへの影響評価を実施しなければならない。「そのような方法でアルゴリズムやAIを使っているところでは、個人に悪影響を及ぼさないことを納得しなければならない」
必要がなくてもプライバシーへの影響評価を実施するのは優れた考え方だとミューイーズ氏は言う。「ITを展開した方法について後で批判されても、透明性と公平性を確保するために措置を講じたという証拠は残る」
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly日本語版
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] 事例に学ぶ、マルチAIエージェント基盤による製造業DXの実現方法 -
事例
[株式会社グローバルウェイ] ポリプラスチックスに学ぶERP刷新 開発を大幅に効率化したアプローチとは? -
製品資料
[株式会社バッファロー] テナント入居時の落とし穴 節約のための「家庭用Wi-Fiルーター利用」がNGな訳 -
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[パーソルクロステクノロジー株式会社] 失敗しない、「DXコンサルティング」活用ノウハウ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
3
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
4
NVIDIA「一強体制」の終わりか データセンターを襲う“電力の壁”
-
5
AI時代のITインフラ変革 ネットワークの重要性と「予測をやめる投資」とは
-
6
「ランサムウェア対策製品」選びに失敗しない“4つのチェックポイント”
-
7
マイナビが挑む「有線・無線LAN、WANのクラウド統合管理」
-
8
「会議・ミーティング」に関するアンケート
-
9
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
10
脱VMwareで悩む中小企業のための“目からうろこの選択肢”とは
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
6
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー