課題の一つは、今後こうした規制がさらに強化される可能性があることだ。次に待ち受ける課題は、訴訟のリスクだ。

　雇用機会均等委員会（EEOC：Equal Employment Opportunity Commission）は、雇用差別を防止するための行政活動をしている米国政府の独立機関だ。EEOCは、採用判断にAI技術を用いることが偏見や差別を助長するリスクについて警告し続けている。連邦規制当局はまだ訴訟を起こしていないものの、企業や民間人による採用関連のクラスアクション（集合代表訴訟）は起き始めている。

　薬局運営を中心にヘルスケア事業を手掛けるCVS Healthは2023年4月、ブレンダン・ベーカー氏から提訴された。2021年にベーカー氏が求人募集に応募し、採用面接を受けた際、CVS HealthはHireVueの同社名デジタル面接システムと、感情認識AI技術ベンダーAffectivaのツールを利用した。これらのツールによって表情や声色を分析し、候補者の感情、認知状態、活動状態を解析した――というのが原告の主張だ。「この技術は『うそ発見器を用いたテスト』に相当するものであり、企業がこれを使用するのは違法だ」と原告は強調する。米国はほとんどの民間組織に対して、採用時またはふるい分け（スクリーニング）時にうそ発見器を用いることを法律で禁じている。

　HireVue社は2021年に、HireVueのビジュアル分析機能を廃止した。「言語情報に比べ、視覚的情報に基づく分析は仕事のパフォーマンスとの相関関係がはるかに低い」と同社は結論付けたという。同社のチーフデータサイエンティストであるリンジー・ズロアガ氏は次のように説明する。「HireVueは、面接の質問に対する候補者の回答を、機械学習を使用して分析し、評価する。このアルゴリズムは固定で、候補者との対話に応じて変化しない。HireVueは視覚情報、口調や発言の間、形態の抑揚は分析していない」。その上でズロアガ氏は「HireVueの分析機能は、候補者の回答の真偽を評価するために設計したものではないし、これまでにも真偽の評価をしたことはない」と強調する。

　2023年2月にはERP（統合業務）システムベンダーWorkdayのAIソフトウェア（AI技術を活用したソフトウェア）が「黒人、障害者、高齢者に対する差別を引き起こす」という趣旨の訴訟が起きた。原告のデレク・モブリー氏は、「AI技術を用いたスクリーニングは『意識的かつ無意識的に差別する人』が作成したアルゴリズムと入力情報に基づく」と主張した。

人事部門がうまくAIと付き合うためには

　AEDT規制法が指定するような第三者の監査を受ければ、AI人事採用ツールが、性別、人種、民族、障害といった法的に保護されている属性に基づいて、差別していないかどうかを証明可能だ。調査会社Gartnerの人事アナリストであるラニア・スチュワート氏は、監査は有用な方法だと考える。第三者の監査を受ける企業が訴訟に直面している場合、企業は監査の価値を疑う可能性がある。同氏は「今のところ、企業は第三者による監査を前向きに捉えているものの、慎重な立場を取るという“慎重な楽観論”を示している印象だ」と話す。

　AI人事採用ツールの役割は、「候補者を選ぶこと」から「有力なスキルを持つ人を見つけ調達すること」にシフトしているとスチュワート氏はみる。AI人事採用ツールを用いて有力なスキルを持つ人を見つけるには、人事部門がいっそう深く採用プロセスに関与する必要がある。人事部門がAI技術の利用法を変化させるのだ。「AI技術を使うかどうかではなく、どのように使うかが重要だ。単に業務を自動化するだけではなく、人の能力を強化するためにAI技術を使うことが重要だ」（同氏）

　人事コンサルティング会社OperationsIncのプレジデント兼CEOであるデービッド・ルイス氏は、「企業はAI人事採用ツールの利用について“健全な懐疑心”を持ち、AI技術のリスクを検討すべきだ」と主張する。AI人事採用ツールの有用性はルイス氏も認めているが、あくまでも初期段階の技術であり、能力は不十分だということだ。

　「たとえ企業が、信頼と実績のあるベンダーのAI人事採用ツールを導入したとしても、AI技術が引き起こす問題に対してベンダーが十分なサポートをしてくれるとは限らない。これこそがAI技術のリスクだ」（ルイス氏）