生成AIの高度化を目指すに当たっては、既存データだけでは限界があるという指摘がある。特にAIエージェントのように、複数のアプリケーションを横断して自律的にPCの操作を実行するAIでは、「人間が予期しない状況にどのように対応するか」が重要になる。

　標準化団体IEEE（米電気電子技術者協会）のシニアメンバー、ケイン・マックグラッドリー氏は、合成データだけでは「ウィンドウが突然動く」「画面サイズが変わる」といった予測不能な操作への対応を学べないと説明する。人間の実際の操作ログを使うことで、AIはインタフェースの操作やエラーの修正、ツール間連携などを学習しやすくなるという。

　一方、このようなデータ収集には懸念もある。マックグラッドリー氏は、「米国では合法でも、EUやドイツでは受け入れられない」と指摘する。欧州のGDPR（一般データ保護規則）では、雇用関係における同意は「自由意思」と見なされにくく、強制的な監視は問題視される可能性がある。

「便利なAI」と「監視」の境界線

　操作ログの収集は、AIの利便性向上にもつながる。ソフトウェアベンダーPrevalent AIのCEOポール・ストークス氏は、キーストロークデータを分析することで、AIがユーザーの入力速度や修正傾向、迷い方などを理解し、予測変換やパーソナライズ機能を改善できると説明する。さらに、行動パターンを用いた「行動認証」（Behavioral Biometrics）の強化にも活用できる可能性があるという。

　ただし、同氏は「データ収集の価値」と「責任」は常にセットで考える必要があると強調する。具体的には、必要最小限のデータ収集、匿名化、透明性確保、「Privacy by Design」（プライバシーを前提に設計する考え方）などが重要だと指摘する。

　企業に対しては、以下のような対応を推奨している。

• 何を収集し、誰がアクセスし、いつ削除するのかを定めたデータガバナンスの整備
• 従業員への透明性確保と平易な説明
• 外部AIツールやベンダーのデータ利用実態の確認
• 将来的な規制強化を前提にした運用設計

　「今のうちに強固なデータガバナンスを整備した企業ほど、将来的に有利になる」とストークス氏は述べる。

「AI監視」の現実

　この問題は、Metaに限った話ではない。今後、AIエージェントを導入する企業が増えれば、「従業員の操作データを学習に使いたい」という要求は他社にも広がる可能性がある。

　ソフトウェアベンダーPactumの最高技術責任者（CTO）タビオ・プンガス氏は、「AIがPCを操作する能力を高めるには、人間の操作データが有効だ」としつつも、「従業員が目的を知らされないまま監視されれば、不信感が生まれるのは当然だ」と述べる。

　さらに、ソフトウェアベンダーTungsten AutomationのChief AI and Product Officerであるアダム・フィールド氏は、「AIによる代替不安がある時代だからこそ、経営層は最大限の透明性を持って説明しなければならない」と警鐘を鳴らす。目的説明が不十分であれば、AIモデルの性能向上以上に、企業文化や社員の信頼に深刻なダメージを与える可能性があるという。

情シスがやるべきことは

　自社がPCから従業員の操作データを収集する意向であると伝えられた場合、情報システム部門（情シス）が確認すべきポイントとして以下がある。

• 現在のデータ収集ポリシーが法規制に適合しているか
• 従業員向けポリシーが明文化され、容易に参照できるか
• データのアクセス権限や保管・廃棄ルールが整備されているか
• 匿名化や暗号化などの保護策があるか
• 従業員との対話や説明責任を果たしているか

　特に日本企業の情シスにとっては、「AI活用を進めたい」という経営層の期待と、「監視される側」となる従業員の不安の板挟みになる可能性がある。AI導入の技術論だけでなく、「どこまでを監視と見なすのか」「従業員の信頼をどう維持するのか」といったガバナンス設計が、今後の重要テーマになりそうだ。