AI人事採用ツールに急ブレーキか、規制法施行の米国が問題視する”AIの偏見”：AI人事採用ツールがもたらすリスク【前編】

米国ニューヨーク市は2023年7月に、自動人事採用ツール規制法を施行した。AIツールを採用判断に利用する企業に、第三者監査と結果の公表を義務付けた。この法規制がもたらすリスクについて、専門家の見解は。

[Patrick Thibodeau，TechTarget]

　米国ニューヨーク市は、自動人事採用決定ツール（AEDT：Automated Employment Decision Tool）に対する規制法を2023年7月に施行した。AEDTは、AI（人工知能）技術やデータ分析などを活用して雇用を自動判断するツールを指す。

　AEDT規制法は、AEDTのベンダーではなくAEDTを利用する企業に対して、AEDTの利用状況についての説明責任を要求している。たとえ企業が最終的な採用決定時にAEDTを使用していなくても、この義務は生じる。企業はAEDTを用いて差別的な判断をしていないかどうかを、第三者の監査を通じて評価し、監査結果をオンラインで公開しなければならない。

規制法の登場で“人事のAI活用”にブレーキが掛かる？

併せて読みたいお薦め記事

AI技術を使いこなす側になるために

• AIへの“警戒心”が各国に波及　イタリア、フランス、米国までも……
• 楽天的な企業がはまりそうな「ChatGPT」の“まさかの穴”に要注意

　AI技術のコンプライアンス監査に携わるProceptualで創業者兼CEOを務めるジョン・ルード氏は、AEDT規制法の施行によって、ニューヨーク市ではAEDTを使おうとする企業が減る可能性があると考えている。監査結果の公開を義務付けられることは「大きな問題」であり、「企業を新たなリスクにさらす可能性がある」とルード氏は語る。

　「差別をしていない」「連邦法の要件を満たしている」といったことを確認するためのバイアステスト（偏見の有無を確認するためのテスト）は、企業にとって日常茶飯事だ。テストを実施して問題が特定できれば、立ち返って修正できる。

　一方でAEDT規制法は新たな課題を生み出している。企業が監査で偏見や差別を指摘され、その指摘がオンラインで公開された場合、「企業は新たな責任を負うことになる」というのがルード氏の見解だ。同氏は、雇用機会均等委員会（EEOC：Equal Employment Opportunity Commission）の反応を警戒する。EEOCは雇用差別を防止するための行政活動をする、米国政府の独立機関だ。「オンラインで指摘が公開されると、EEOCがその企業に非常に強い関心を持つことになる」と同氏は懸念する。

　AI技術によって採用候補者のランク付けや選別を可能にする採用ツールは、2010年代に登場した。こうしたツールのベンダーは「人の判断よりもAI技術の方が偏見は少ない」と主張する。しかし一部の人事担当者にとって、AI技術のリスクは高く、慎重にならざるを得ない。

　物流不動産会社Prologisで人事チーフを務めるナタリー・キャリー氏もこの問題に悩んでいる。キャリー氏は、採用におけるAI技術のリスクを自動運転車に例え、「私はまだ、ハンドルから手を離してAIに車を運転させる心の準備ができていない」と話す。いつか考えが変わるとしても、当面は慎重視する構えだ。

　AI技術を用いた人事採用ツール（AI人事採用ツール）が、偏見のない、社会的責任を取れる方法で結果を導き出したかどうかを確認するにはどうすればよいのか――。こうした課題意識に基づいて、キャリー氏はさまざまなAI人事採用ツールの情報を収集している。AI人事採用ツールがどのようなアルゴリズムを使用しているかという情報は、人事チームがツールの結果を信頼するために役立つ情報だ。にもかかわらず、アルゴリズムがどのように動作するかを公表していないベンダーもある。「ベンダーは、アルゴリズムを機密情報として扱っている」と同氏も同意を示す。

　キャリー氏によれば、AI人事採用ツールを導入している人事部は2023年7月時点ではあまり多くない。「AI技術への信頼を築くための最大の要素は、時間だ」（同氏）

---

　後編は、AI人事採用ツールの利用がもたらす訴訟リスクや技術リスクを解説する。

TechTarget発　先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。