顕在化してきた「AIベースの人事管理」のリスクアルゴリズムによる人事管理【前編】

人間から偏見を排除するのは難しい。これを克服するために導入したアルゴリズムにもやはりリスクがある。既に発生しているリスクとは何か。

2022年06月20日 08時00分 公開
[SA MathiesonComputer Weekly]

 人間による管理は悲惨な結果につながることがある。「昔のタクシー業界では、運転手が虐待されていた」と話すのは、非営利団体Worker Info Exchange(WIE)のジェームズ・ファラー氏(ディレクター)だ。

 「仕事を与えられる運転手と与えられない運転手がいる。つまり、配車係に気に入られなければ仕事にありつけない」。賄賂を要求する配車係もいた。その結果、配車業務のアルゴリズム化は大いに歓迎された。

 だが、アルゴリズムによる管理とプロセスの自動化が新たな問題をもたらしている。

人間に反旗を翻すアルゴリズム

 WIEが公開したレポート「Managed by bots」によると、「ある自営業者が他人に自分のアカウントを使わせている」と顔認識ソフトウェアが誤認し、さらにそれを人間が確認するのをソフトウェアが拒否した。

 顔認識ソフトウェアは、肌の色が濃いと精度が落ちる傾向がある。ロンドン交通局に登録されている個人タクシーの運転手の94%は少数民族出身であり、これは「既に雇用が不安定な労働者にとって悲惨な結果になる」という(訳注)。

訳注:ロンドンのタクシーは「ブラックキャブ」と「ミニキャブ」に大別される。ブラックキャブの運転手の大半は白人のイギリス人で、ミニキャブの運転手は外国人が多いといわれている。本文のタクシー運転手はミニキャブあるいはUberを想定したものと思われる。

 ファラー氏は、運転手の数が過剰になるなどの問題が生じていると言う。運転手が多ければ客の待ち時間は短くなる。だが各運転手の仕事は減少して生計を立てるのが難しくなり、道路も混雑する。

 特に仕事の割り当てと業績管理にITを使う場合は透明性を確保する必要がある。セキュリティや詐欺防止を言い訳にしてはならない。また、人生を変える決定に自動化を単独で使用すべきではない。

労働組合の役割

 英国労働組合会議(TUC:Trades Union Congress)も同様の要請を行っている。TUCは48の労働組合の連合体だ。TUCのメアリー・タワーズ氏(雇用権政策担当者)は、労働組合は賃金などのデータの処理と分析において新たな役割を果たすことができると言う。「そうした集団的支援がなければ、従業員が自分のデータを管理するのは非常に難しいだろう」

 データは、分析にも同一賃金請求などの行動の基礎としても利用できる。労働組合はデータ保護法の下、組合員の正式な代表として行動できる。組合員に自主的にデータを収集するように要請することも可能だ。

 労働組合と企業の交渉には、自動化やAIに従業員のデータを使う方法も含めることができる。Royal Mail Group(RMG)とCommunication Workers Union(CWU)の労働協約(2022年更新)には、「職場や業務上の意思決定を人間以外に委ねるためにITを使用しない。ITを使用する場合は情報に基づく議論をサポートするようにITを設計し、いかなる形でもいかなる形式でもそのITを置き換えてはならない」と記されたセクションが含まれている。

 タワーズ氏によると、ITをうまく使いたいなら「協調的で社会的なパートナーシップアプローチ」を目指すべきだという。従業員は企業が行っていることを知らない場合が多いと同氏は補足する。使っているITのリストを公開してアクセスできるようにし、従業員が自分のデータに自動的にアクセスできるようにすれば状況を改善できる。

AIの透明性確保

 自動化とAIの透明性は法的な観点でも理にかなっていると話すのは、商法事務所Walker Morrisのサリー・ミューイーズ氏(ITおよびデジタル部門責任者)だ。「多くの場合、AIの意思決定の仕組みを人間が理解するのは不可能だ。その意思決定が人員配置や人事に関わる場合は大きな懸念点になる」

 これは雇用法上の問題を引き起こす恐れがある。GDPR(EU一般データ保護規則)は、特定の条件を満たさない限り、個人を完全に自動化された意思決定の対象にすることを禁止している。英国政府は2021年9月の協議でこの廃止を提案した。さらにAIにおけるバイアスの監視と検出に個人データを使うことを許可することも提案している。これらはまだ法案としては正式に提出されていない。

 自動化されたシステムのバイアスは差別禁止法に違反する可能性がある。仕事や昇進の対象となる人材の選定に自動化されたシステムを使っている場合、企業に深刻なリスクがもたらされるとミューイーズ氏は言う。体系的または潜在的に個人データに悪影響を及ぼすプロジェクトの場合、プライバシーへの影響評価を実施しなければならない。「そのような方法でアルゴリズムやAIを使っているところでは、個人に悪影響を及ぼさないことを納得しなければならない」

 必要がなくてもプライバシーへの影響評価を実施するのは優れた考え方だとミューイーズ氏は言う。「ITを展開した方法について後で批判されても、透明性と公平性を確保するために措置を講じたという証拠は残る」

Copyright © ITmedia, Inc. All Rights Reserved.

鬯ョ�ォ�ス�エ�ス�ス�ス�ス�ス�ス�ス�ス�ス�ス�ス�ー鬯ッ�ィ�ス�セ�ス�ス�ス�ケ�ス�ス邵コ�、�つ€鬯ゥ蟷「�ス�「髫エ蜿門セ暦ソス�ス�ス�ク髯キ�エ�ス�・�ス�ス�ス�。鬯ゥ蟷「�ス�「�ス�ス�ス�ァ�ス�ス�ス�ス�ス�ス�ス�、鬯ゥ蟷「�ス�「髫エ荳サ�ス隶捺サゑスソ�ス�ス�ス�ス�ス�ス�ス鬯ゥ蟷「�ス�「髫エ雜」�ス�「�ス�ス�ス�ス�ス�ス�ス�シ鬯ゥ蟷「�ス�「髫エ荵暦ソス�ス�ス�ス�サ�ス�ス�ス�」�ス�ス�ス�ス�ス�ス�ス�ス

製品資料 Splunk Services Japan合同会社

金融サービス業界のレジリエンス向上、AI活用の有効性とその実装方法とは

イノベーションの加速とともに、セキュリティやレジリエンスの維持などさまざまな課題が顕在化している金融サービス業界。課題の中身を確認しながら、その解決策として期待されるAI活用の有効性や実装方法を紹介する。

市場調査・トレンド Splunk Services Japan合同会社

金融業界におけるAIと機械学習の活用が進む中、解消しておきたい5つの誤解とは

金融業界においてAIツールの活用が進んでいる。一方で、セキュリティ面の不安を抱えている金融サービス企業は少なくない。このような懸念は、リスクとメリットを考慮して、AIと機械学習の戦略を策定することで解消できる。

プレミアムコンテンツ アイティメディア株式会社

AIには代替できない「ITエンジニア職」はこれだ

AI技術は進化を続け、人間の仕事の一部はAIによって代替可能になる。AI技術に代替されにくいITエンジニアの職種とは何か。ITエンジニアはどのようなキャリアを歩むべきなのか。

製品資料 日本ヒューレット・パッカード合同会社

AI活用を加速させる、スーパーコンピューティングの実力

AI活用には処理スピードが重要となる。特に、大規模言語モデルのトレーニングでは、長期的に稼働できる強力なコンピュート性能も求められる。そこで注目したいのが、AIモデルのトレーニングを加速させるスーパーコンピューティングだ。

製品レビュー 日本ヒューレット・パッカード合同会社

開発や分析の多様なニーズに応えながら、組織全体にAIを導入する方法とは?

AIを使ったイノベーションの推進が期待されているが、組織全体にAIを導入するためにはいくつかの課題を解消することが必要だ。開発や分析を担うエンジニアやデータサイエンティストのニーズに応えながら、組織全体にAIを導入する方法とは?

鬩幢ス「隴主�蜃ス�ス雜」�ス�ヲ鬩幢ス「隰ィ魑エツ€鬩幢ス「隴趣ス「�ス�ス�ス�シ鬩幢ス「�ス�ァ�ス�ス�ス�ウ鬩幢ス「隴趣ス「�ス�ス�ス�ウ鬩幢ス「隴趣ス「�ス�ソ�ス�ス�ス雜」�ス�ヲ鬩幢ス「隴趣ス「�ス�ソ�ス�スPR

From Informa TechTarget

お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。

顕在化してきた「AIベースの人事管理」のリスク:アルゴリズムによる人事管理【前編】 - TechTargetジャパン エンタープライズAI 鬮ォ�エ�ス�ス�ス�ス�ス�ー鬯ィ�セ�ス�ケ�ス縺、ツ€鬯ョ�ォ�ス�ェ髯区サゑスソ�ス�ス�ス�ス�コ�ス�ス�ス�ス

TechTarget鬩幢ス「�ス�ァ�ス�ス�ス�ク鬩幢ス「隴趣ス「�ス�ス�ス�」鬩幢ス「隴乗��ス�サ�ス�」�ス雜」�ス�ヲ 鬮ォ�エ�ス�ス�ス�ス�ス�ー鬯ィ�セ�ス�ケ�ス縺、ツ€鬯ョ�ォ�ス�ェ髯区サゑスソ�ス�ス�ス�ス�コ�ス�ス�ス�ス

ITmedia マーケティング新着記事

news026.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年4月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...

news130.jpg

Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は?
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...

news040.png

「マーケティングオートメーション」 国内売れ筋TOP10(2025年4月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。