AI人事採用ツールに急ブレーキか、規制法施行の米国が問題視する”AIの偏見”AI人事採用ツールがもたらすリスク【前編】

米国ニューヨーク市は2023年7月に、自動人事採用ツール規制法を施行した。AIツールを採用判断に利用する企業に、第三者監査と結果の公表を義務付けた。この法規制がもたらすリスクについて、専門家の見解は。

2023年11月25日 05時00分 公開
[Patrick ThibodeauTechTarget]

 米国ニューヨーク市は、自動人事採用決定ツール(AEDT:Automated Employment Decision Tool)に対する規制法を2023年7月に施行した。AEDTは、AI(人工知能)技術やデータ分析などを活用して雇用を自動判断するツールを指す。

 AEDT規制法は、AEDTのベンダーではなくAEDTを利用する企業に対して、AEDTの利用状況についての説明責任を要求している。たとえ企業が最終的な採用決定時にAEDTを使用していなくても、この義務は生じる。企業はAEDTを用いて差別的な判断をしていないかどうかを、第三者の監査を通じて評価し、監査結果をオンラインで公開しなければならない。

規制法の登場で“人事のAI活用”にブレーキが掛かる?

 AI技術のコンプライアンス監査に携わるProceptualで創業者兼CEOを務めるジョン・ルード氏は、AEDT規制法の施行によって、ニューヨーク市ではAEDTを使おうとする企業が減る可能性があると考えている。監査結果の公開を義務付けられることは「大きな問題」であり、「企業を新たなリスクにさらす可能性がある」とルード氏は語る。

 「差別をしていない」「連邦法の要件を満たしている」といったことを確認するためのバイアステスト(偏見の有無を確認するためのテスト)は、企業にとって日常茶飯事だ。テストを実施して問題が特定できれば、立ち返って修正できる。

 一方でAEDT規制法は新たな課題を生み出している。企業が監査で偏見や差別を指摘され、その指摘がオンラインで公開された場合、「企業は新たな責任を負うことになる」というのがルード氏の見解だ。同氏は、雇用機会均等委員会(EEOC:Equal Employment Opportunity Commission)の反応を警戒する。EEOCは雇用差別を防止するための行政活動をする、米国政府の独立機関だ。「オンラインで指摘が公開されると、EEOCがその企業に非常に強い関心を持つことになる」と同氏は懸念する。

 AI技術によって採用候補者のランク付けや選別を可能にする採用ツールは、2010年代に登場した。こうしたツールのベンダーは「人の判断よりもAI技術の方が偏見は少ない」と主張する。しかし一部の人事担当者にとって、AI技術のリスクは高く、慎重にならざるを得ない。

 物流不動産会社Prologisで人事チーフを務めるナタリー・キャリー氏もこの問題に悩んでいる。キャリー氏は、採用におけるAI技術のリスクを自動運転車に例え、「私はまだ、ハンドルから手を離してAIに車を運転させる心の準備ができていない」と話す。いつか考えが変わるとしても、当面は慎重視する構えだ。

 AI技術を用いた人事採用ツール(AI人事採用ツール)が、偏見のない、社会的責任を取れる方法で結果を導き出したかどうかを確認するにはどうすればよいのか――。こうした課題意識に基づいて、キャリー氏はさまざまなAI人事採用ツールの情報を収集している。AI人事採用ツールがどのようなアルゴリズムを使用しているかという情報は、人事チームがツールの結果を信頼するために役立つ情報だ。にもかかわらず、アルゴリズムがどのように動作するかを公表していないベンダーもある。「ベンダーは、アルゴリズムを機密情報として扱っている」と同氏も同意を示す。

 キャリー氏によれば、AI人事採用ツールを導入している人事部は2023年7月時点ではあまり多くない。「AI技術への信頼を築くための最大の要素は、時間だ」(同氏)


 後編は、AI人事採用ツールの利用がもたらす訴訟リスクや技術リスクを解説する。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

From Informa TechTarget

お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。

ITmedia マーケティング新着記事

news150.jpg

「猛暑」「米騒動」「インバウンド」の影響は? 2024年に最も売り上げが伸びたものランキング
小売店の推定販売金額の伸びから、日用消費財の中で何が売れたのかを振り返るランキング...

news110.jpg

Netflixコラボが止まらない 「イカゲーム」シーズン2公開で人気爆上がり必至のアプリとは?
Duolingoは言語学習アプリとNetflixの大人気ドラマを結び付けたキャンペーンを展開。屋外...

news199.jpg

Yahoo!広告における脱デモグラフィックの配信・分析を実現 電通が「DESIRE Targeting」を提供開始
電通の消費者研究プロジェクトチームは、消費者を理解し、Yahoo!広告の配信や分析を実施...