AIツールは、顧客の連絡先や患者の記録といった個人を特定できる情報、社内文書のような企業の機密情報を含む大規模なデータセットを取り扱う。取り扱いを誤ると、情報漏えいや倫理規定の違反、顧客からの信頼低下、規制当局による罰則といった事態を招きかねない。

　以下の6つは、企業が率先して対処すべき、AI技術活用時におけるプライバシー関連の懸念だ。

リスク1．データ侵害

　AIツールは一般的に企業の機密情報を処理し、重要な業務プロセスに関与するため、攻撃者にとって格好の標的になる。一度のデータ侵害によって数百万件の記録が流出すれば、個人情報の盗難、金銭的損失、企業評価の失墜につながりかねない。医療分野のAIツールが侵害されれば、患者の診断結果や治療計画、請求情報といった極めて個人的な機密情報が流出する可能性がある。

リスク2．データの不正利用

　ソフトウェア開発チーム、データエンジニア、サードパーティーベンダーなど、AIツールの開発には異なる立場の人が関与する。ツールの開発段階で、そうしたさまざまな立場の人がデータを閲覧、利用できる状態になっていることは、データの不正利用のリスクを高めることにつながる。AIモデルの訓練に用いた機密性の高い個人データを、本人の同意なく広告会社に販売し、顧客の行動分析（プロファイリング）に利用するといったケースが考えられる。

リスク3．AIモデルのブラックボックス化

　現在のAIモデルは、エンドユーザーが出力は確認できるものの、内部ロジックや訓練データ、アルゴリズムを見ることができないものが中心だ。このような可視性の欠如は、AIツールの監査や意思決定プロセスの理解を困難にする。場合によっては、エンドユーザーがAIツールに入力したデータをAIベンダーが閲覧、利用できる状態になっていることがあり、意図せず機密情報が第三者に渡ってしまう恐れがある。

リスク4．透明性の欠如

　AIベンダーがAIモデルのためのデータ収集、利用方法に関する明確な情報を提供していない場合、エンドユーザーは自分のデータをAIモデルがどのように扱っているのかを把握できない。2016年に注目を集めた事例として、Google傘下のAIベンダーDeepMindが160万人の患者の医療データを取得し、AIモデルの訓練に利用したことがある。この事例では、患者は自身のデータがそのように使われることを知らされていなかった。患者への十分な説明がないまま医療データが扱われたことは規制当局による調査へと発展し、社会的な批判も巻き起こった。結果として、医療データの提供元である医療提供者とDeepMind双方が社会的な信頼を損なうことになった。

リスク5．バイアス

　AIモデルの訓練データに偏りがある場合、出力結果も偏る傾向が強まる。攻撃者がAIモデルを狙い、訓練データに不正な情報を注入すれば、それが原因で企業の偏った意思決定につながることもある。偏ったデータで訓練されたAIモデルは、性別、人種、社会経済的地位といった要因に基づいて、融資、採用、医療などの場面でバイアス（偏見）のある判断を下す恐れがある。

リスク6．コンプライアンスリスク

　一部の国や地域は、住民の個人情報を保護するために厳格なデータ保護規制を課している。個人データの利用に関して厳格な規則を定める例として、EU（欧州連合）の「一般データ保護規則」（GDPR）、米カリフォルニア州の「カリフォルニア州消費者プライバシー法」（CCPA）、中国の「中華人民共和国個人情報保護法」がある。これらの規制を順守しなかった場合、罰金の支払いや企業評価の失墜につながる可能性がある。

　次回は、企業がAI技術を安全に利用するために実践できる7つのベストプラクティスを紹介する。