米国で開かれたカンファレンス「Predictive Analytics World」でプレゼンを行ったオーブライアン氏は、退社した従業員の代わりの人材を採用するにはコストが掛かり、従って予測モデリングが活用できる余地は十分にあると指摘した。退社しそうな人物を予測するモデルや、その人物が転職先を探す機会を減らすための介入方法は比較的簡単に確立できる。しかし職場の差別禁止法を考慮すると、事は複雑になる。

　この理由からオーブライアン氏のチームは、同モデルのためにどのような変数を選ぶかについて、慎重になる必要があった。人種、性別、年齢といった属性は、従業員採用のための選考要因とすることが米連邦法で禁じられており、即座に不適切と判断できる。

　だが判断が微妙な要素もあった。例えば、郵便番号を使えば退社の可能性を予測できる可能性がある。しかし同時に、郵便番号は人種を示すこともある。同チームは結局、一般的な従業員の勤務年数、対応する顧客の種類、負担の重さ、職場勤務か主に自宅勤務かに関連付けた一連の変数に落ち着いた。差別的と見なされる可能性のある要素からはできる限り距離を置きたかったとオーブライアン氏は説明する。

　「差別的かどうかは、モデルでは問題にならなくても、法律で問題になる。差別的な変数が含まれないことをしっかり確認しなければならない」と同氏は語る。

データプライバシーは信頼の問題

　データプライバシーの保護についての基本的な問題は、結局は人々に関する情報をどう使うかという問題であり、それが、ビッグデータへの依存が増す現在、ますます多くの企業が直面している問題だ。人々に関するデータをより多く集めることができれば、それだけ人々の行動をモデル化しやすくなる。だが、それをやれば、人々の反感を買うリスクを冒すことになる。

　オーブライアン氏は、こうしたリスクの方が差別禁止法よりも心配だったと言う。同氏とチームは、モデルに内在する偏見につながりかねない要素を調べ上げ、それと同時にその扱い方についても検討した。各個人の気質や傾向を考慮に入れずに社員を階級分けすれば、問題がさらに拡大しかねないと同氏は語る。こうした理由から、同氏のチームでは、社員個人の評価を匿名化することに決めた。Paychexの経営幹部らは支店単位にまとまったデータのみを見ることになる。これにより、個人が特定されずに、支店レベルで人材流出防止策を打つことが可能になった。

　同氏はこの処置について、「ビッグデータは気味が悪い」という認識を与えないデータプライバシーポリシーの策定に欠かせなかったと述べ、これによって、自分が関与できない要素を基に上司に何かされそうだという感情を社員は持たなくなったと説明する。

　「皆さんはどう思うか分からないが、D（合格最低点）やF（落第）の評価を私に付けるモデルが存在していることなど知りたくもない」（オーブライアン氏）

信頼で成り立つデジタル経済

　データを収集する相手のプライバシー願望を尊重しない企業は、いずれ反発に遭うと予想するのは、米法律事務所Sidley Austinの弁護士キャメロン・ケリー氏。同氏はオバマ政権の消費者プライバシー権利法の起草に協力した。

　ケリー氏は米国で開かれたカンファレンス「Big Data Innovation Summit」で講演し、1990年代に電子商取引がなかなか普及しなかった主な原因の1つは、ユーザーに信頼されなかったからだと指摘した。昨今、大規模な情報流出があまりに頻繁にニュースになり、消費者は再び信頼性について考えるようになった。なぜ企業は消費者に関するデータをそれほど大量に収集する必要があるのか、なぜセキュリティ対策を講じないのか、情報プライバシー保護のために何をやっているのかが問われている。

　「企業も自分たちに問題があることは分かっている。大手小売りチェーン米Targetの顧客クレジット情報流出事件はそれを自分のこととしてユーザーに認識させた。ソニーの情報流出事件もそれを認識させた。それでもまだ十分な対策ができていない。デジタル経済では信頼が不可欠だ」。ケリー氏はそう話す。

　データの収集や分析に関する規制では限定的な役割しか果たせないとケリー氏は解説する。消費者プライバシー権利法では企業に対する規制を打ち出したが、これはむしろ出発点にすぎないと同氏は言う。もし技術革新を原動力とする経済がこのまま続けば、いずれ規制が追い付けなくなり、データを慎重に利用する責任は企業が負うことになる。

　コンサルタントで作家のデール・ニーフ氏によると、予測モデリングに関連したプライバシー問題は、データの量や企業のデータ収集源の多様性が増すに従って増大の一途をたどる。同氏にとって、自主規制は現時点でプライバシーに対する最も効果的なアプローチだという。だが全ての企業にそうする動機があるとは思えないと同氏は指摘し、この問題に関する政治的な動きがほとんどないことから、現在の状況が今後も続くだろうと予測する。

　「プライバシーという概念そのものが、かつてとは違うものになった。それが失われる可能性もある」とニーフ氏は話している。