アルゴリズムによる人事管理【後編】
「AIベースの人事管理」のリスクを回避する方法
AIからバイアスを排除するのは難しい。だがリスクを回避する方法はある。そのためのベストプラクティスを紹介する。
従業員管理におけるバイアスを減らす方法は他にもある。データサイエンスコンサルタント企業Peak Indicatorsのアントニー・ヘルジュラ氏(イノベーションディレクター)によると、人種などのセンシティブな属性をデータモデルから除外することは可能だが、確実ではないという。数年前、Amazon.comは10年分の応募書類でトレーニングされたAI履歴書評価システムにおいて、女性に対する差別があったと発表した。
この例が示すように、人間だけでなく自動化された決定も偏る恐れがある。そのため、センシティブな属性を意図的に使ってバイアスを探すモデルを別に構築することは理にかなっている。ヘルジュラ氏は、これを「異常検知」と呼んでいる。
AIシステムにおけるバイアスへの対策
他にも選択肢がある。
- AIの使用を検証する倫理委員会を設置する
- ニューラルネットワークよりも決定木のような比較的説明可能なモデルを選択する
- 従業員管理は、個人ではなくグループを集計したデータを用いる
最後の選択肢については、グループを十分な大きさにする必要がある。チームに女性が1人しかいなければ、女性が離職する可能性があるという予測はかなり個人的なものになる。
バイアスと監視に対する懸念から、人事にAIを使う方法を見直さざるを得ないとヘルジュラ氏は考えている。ITを利用して決定のバイアスを確認したり、個人に合わせたトレーニング計画を策定したりする目的で従業員のスキルを評価するなど、「『支配者による監視』から従業員が受け入れ可能な監視に切り替えなければならない」。
ITコンサルタント企業Infosysは、AIにおけるバイアスに取り組むための5ステップのアプローチを考案した。このアプローチでは、まずデータ内でセンシティブな属性を探す。次に、特定の役割における女性率の目標など、「公平な尺度」を設定する。その後、AIベースのシステムを実装する。仕事の割り当てを拒否するためにデータを使う場合は、その結果を説明できるようにする。最後に、結果に対する人間のガバナンスを構築する。Infosysのデービッド・セマッハ氏(ヨーロッパにおけるAIと自動化の責任者)は、人間の介入について次のように話す。「これは本質的にはサニティーチェック(ごく基本的な動作確認)であり、絶対に不可欠だ」
Infosysはある大手企業グループにこのバイアス対策機能を実装中だという。このグループはアルゴリズムを使って数万件の履歴書を審査している。同社は公平な尺度を30~40件設定している。セマッハ氏は、この数は妥当だが「最大の課題の一つは対策の定義だ」と言う。
データ分析ソフトウェアプロバイダーのNICEはRPA(ロボティックプロセスオートメーション)ユーザー用の「Robo-Ethical Framework」を公開した。ロボットはポジティブな影響を与え、グループIDを無視して個人に危害を加えるリスクを最小限に抑えなければならない。ロボットのデータソースは既知の信頼できる検証済みのものでなければならない。アクセスと編集を制限、監視、認証するなど、ロボットはガバナンスと制御を念頭に置いて設計しなければならないと同フレームワークは定義している。
NICEのオデッド・カレフ氏(RPA担当統括マネジャー)は、倫理学者やパートナーの意見を聞いて同フレームワークを計画したと言う。同フレームワークには、顧客の従業員から寄せられた「自動化への不安」や不正を図るスタッフにソフトウェアロボットが悪用されることを恐れる米国大手銀行からの要請など、従業員管理の問題が大きな影響を及ぼしている。
多くの企業は倫理的な使用を実証することに意欲的だ。カレフ氏によると、ロボットを作成するステップに多くの担当者が関与することで、詐欺のリスクを減らせるという。複数の人が関われば単独犯では実行できず、複数人による共謀が必要になる。
履歴書の審査にロボットを使うグローバルIT企業は「ルールを自動的に作成して適用することはできないという保護策を追加している」とカレフ氏は話す。全ての変更がドキュメントに記録され、元に戻すことができる。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly日本語版
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] 事例に学ぶ、マルチAIエージェント基盤による製造業DXの実現方法 -
事例
[株式会社グローバルウェイ] ポリプラスチックスに学ぶERP刷新 開発を大幅に効率化したアプローチとは? -
製品資料
[株式会社バッファロー] テナント入居時の落とし穴 節約のための「家庭用Wi-Fiルーター利用」がNGな訳 -
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[パーソルクロステクノロジー株式会社] 失敗しない、「DXコンサルティング」活用ノウハウ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
3
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
4
「ランサムウェア対策製品」選びに失敗しない“4つのチェックポイント”
-
5
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
6
WordPressサイトの4割が旧版のまま 自動更新が止まる組織の共通点
-
7
AI時代のITインフラ変革 ネットワークの重要性と「予測をやめる投資」とは
-
8
「会議・ミーティング」に関するアンケート
-
9
NVIDIA「一強体制」の終わりか データセンターを襲う“電力の壁”
-
10
冷凍庫が一晩で50℃に 仏約700拠点を襲ったOT攻撃、侵入口は「遠隔管理」
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
「Microsoft 365」徹底解説ガイド テレワーク時代のセキュリティ対策編
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー