AIを安心して使うには？ プライバシー侵害を防ぐ7つのベストプラクティス：AIのプライバシー問題と対処法【後編】

企業がAI技術を活用する上で、データの取り扱いや説明責任といったプライバシーに関する懸念の解消は重要な課題だ。AI技術の恩恵を最大化し、安全かつ倫理的に活用するために、今すぐできる7つの施策を紹介する。

[Nihad Hassan，TechTarget]

　人工知能（AI）技術のビジネス活用が急速に進む一方、個人情報や企業秘密などの機密情報をAIモデルやAIベンダーがどう扱うのかに対するプライバシーへの懸念が浮上している。企業の社会的信頼にも関わるこうしたリスクに対処し、安全にAI技術を活用するための7つのベストプラクティスを解説する。

AIのプライバシー侵害を防ぐ7つのベストプラクティス

併せて読みたいお薦め記事

連載：AIのプライバシー問題と対処法

• 前編：便利だけど危険？　AIの裏側に潜む6大プライバシー侵害リスク

AI技術のリスクに対処する

• “うそつきAI”はどう管理すべき？　IT管理者が解消すべき3つのリスク
• “AI暴走”は対岸の火事ではない　事業を脅かす5つのリスクと対策

　プライバシーの懸念に対処し、ビジネスでAIを安全に利用するために、企業は以下の7つのプライバシーに関するベストプラクティスを採用すべきだ。

1．訓練のために収集するデータは最小限にとどめる

　AI技術を業務で使用する際は、その目的を達成するために必要なデータのみを収集するように徹底する。エンドユーザーの個人データやプロンプト（AIモデルへの指示）が、AIモデルの訓練にどのように使用されるのかについて、エンドユーザーが明確な説明を受け、納得した上で同意（インフォームドコンセント）していることを確認しなければならない。顧客応対にAIツールを導入する場合に、個人を特定できる情報や会話履歴を保存せず、問い合わせ対応に必要な情報のみを取り扱うようにするといった具合だ。

2．通信やデータを暗号化する

　エンドユーザーとAIツール間の全通信を暗号化し、第三者によるデータ盗難や傍受を防ぐ。AIモデル訓練用のデータ、システムのバックアップ、開発環境などに保存されているデータも暗号化し、不正アクセスを阻止する。暗号鍵を安全に管理する専用システムを導入することも有効だ。

3．機密データを匿名化する

　個人情報、健康情報、財務情報などの機密情報を削除またはマスキングして、第三者がエンドユーザーの個人行動を分析（ユーザープロファイリング）することを防ぐには、以下に挙げるプライバシー保護技術を活用できる。

• データマスキング
  • データの一部を本来の内容とは異なる値や記号などに置き換えたり非表示にしたりして、機密性を確保する技術
• トークン化
  • 機密データを固有のトークンに置き換えて情報を管理する技術
• 差分プライバシー
  • 個人情報を含むデータに意図的なノイズデータを加えることで、データ全体の統計情報から特定の個人を識別できないようにする技術

　AIモデルの性能を維持しつつリスクを低減する上では、以下のプライバシー保護技術の採用も検討するとよい。

• フェデレーテッドラーニング（連合学習）
  • 複数の場所にある訓練データを集約することなく、分散したまま訓練に活用する機械学習手法
• 秘匿マルチパーティー計算
  • 元データを明かすことなく、暗号化したまま計算処理をする技術

4．説明可能なAIモデルを導入する

　説明可能なAIモデルは、性能と信頼性を維持しながら、エンドユーザーには出力しか見せないというブラックボックス化のリスクを軽減する。そうしたAIモデルを実現する手法の一例である「LIME」（Local Interpretable Model-agnostic Explanations）は、AIモデルへの入力データを少しずつ変化させてその出力結果を分析することで、どの要素がAIモデルの意思決定に影響を与えているのかを可視化する手法だ。

5．コンプライアンス状況を継続的に確認する

　自社が利用しているAIツールが、EU（欧州連合）の「一般データ保護規則」（GDPR）や米カリフォルニア州の「カリフォルニア州消費者プライバシー法」（CCPA）といったプライバシー関連規制に準拠していることを確認する。定期的な監査、コンプライアンス（法令順守）関連文書を管理し、データ収集および利用に関するエンドユーザーへの説明が重要だ。これらの措置は、規制当局による調査の際に、企業がデューデリジェンス（適正な評価手続き）を果たしたことの証拠になり得る。

6．強固なアクセス制御を実装する

　AIツールと関連データのアクセス権限を、必要最低限の担当者のみに付与する。エンドユーザーの役割に基づいてアクセス権限を設定する「ロールベースアクセス制御」（RBAC）を導入し、誰がいつ機密データを参照したのかを追跡できるようログを取得、監視する。これによって社内データの不正利用リスクを低減し、問題発生時の責任の所在を明確にする企業の説明責任体制を確立できる。

7．AIガバナンス体制を整える

　企業がAI技術を導入、運用するための、各部門や担当者の役割、責任範囲、手順を定義するAIガバナンス体制を策定する。AIモデルのエラーやデータ侵害といった予期しない問題に備えて、問題発生時の報告ルートや対処手順を具体的に定めたインシデント対応計画も盛り込むべきだ。

　暗号化基準の徹底や、監査に備えたデータリネージ（データの出自や変更履歴）の維持など、データスチュワードシップ（データの適切な定義や利用を推進する取り組み）を実現するための手順を整備する。AIモデルの判断が倫理的な問題や不公平な結果を招かないよう、具体的な倫理基準を設定することも不可欠だ。問題を早期に発見するためには、AIモデルのバイアスを定期的にチェックしたり、AIモデルの弱点を検証する「敵対的テスト」といったリスク評価手法を取り入れたりすることが有効だ。

TechTarget.AIとは

TechTarget.AI編集部は生成AIなどのサービスを利用し、米国Informa TechTargetの記事を翻訳して国内向けにお届けします。