AI技術のコンプライアンス監査に携わるProceptualで創業者兼CEOを務めるジョン・ルード氏は、AEDT規制法の施行によって、ニューヨーク市ではAEDTを使おうとする企業が減る可能性があると考えている。監査結果の公開を義務付けられることは「大きな問題」であり、「企業を新たなリスクにさらす可能性がある」とルード氏は語る。

　「差別をしていない」「連邦法の要件を満たしている」といったことを確認するためのバイアステスト（偏見の有無を確認するためのテスト）は、企業にとって日常茶飯事だ。テストを実施して問題が特定できれば、立ち返って修正できる。

　一方でAEDT規制法は新たな課題を生み出している。企業が監査で偏見や差別を指摘され、その指摘がオンラインで公開された場合、「企業は新たな責任を負うことになる」というのがルード氏の見解だ。同氏は、雇用機会均等委員会（EEOC：Equal Employment Opportunity Commission）の反応を警戒する。EEOCは雇用差別を防止するための行政活動をする、米国政府の独立機関だ。「オンラインで指摘が公開されると、EEOCがその企業に非常に強い関心を持つことになる」と同氏は懸念する。

　AI技術によって採用候補者のランク付けや選別を可能にする採用ツールは、2010年代に登場した。こうしたツールのベンダーは「人の判断よりもAI技術の方が偏見は少ない」と主張する。しかし一部の人事担当者にとって、AI技術のリスクは高く、慎重にならざるを得ない。

　物流不動産会社Prologisで人事チーフを務めるナタリー・キャリー氏もこの問題に悩んでいる。キャリー氏は、採用におけるAI技術のリスクを自動運転車に例え、「私はまだ、ハンドルから手を離してAIに車を運転させる心の準備ができていない」と話す。いつか考えが変わるとしても、当面は慎重視する構えだ。

　AI技術を用いた人事採用ツール（AI人事採用ツール）が、偏見のない、社会的責任を取れる方法で結果を導き出したかどうかを確認するにはどうすればよいのか――。こうした課題意識に基づいて、キャリー氏はさまざまなAI人事採用ツールの情報を収集している。AI人事採用ツールがどのようなアルゴリズムを使用しているかという情報は、人事チームがツールの結果を信頼するために役立つ情報だ。にもかかわらず、アルゴリズムがどのように動作するかを公表していないベンダーもある。「ベンダーは、アルゴリズムを機密情報として扱っている」と同氏も同意を示す。

　キャリー氏によれば、AI人事採用ツールを導入している人事部は2023年7月時点ではあまり多くない。「AI技術への信頼を築くための最大の要素は、時間だ」（同氏）

　後編は、AI人事採用ツールの利用がもたらす訴訟リスクや技術リスクを解説する。