編集部のお薦め記事

無許可AI利用「シャドーAI」を防ぐには？　今すぐ実行できる4つの施策

情シスは「何を知らないか」さえ知らない――AIエージェント時代の盲点とは

　AIの正当な利用はビジネスを支えるが、管理には細心の注意を要する。未承認のAIツール利用は、組織に以下のような深刻な脅威をもたらす。

• データ漏えい

　業務効率化のためにAIを使う際、顧客情報や機密情報を不用意に入力してしまう恐れがある。例えばChatGPTで機密報告書を要約させた場合、その情報はAIモデルの学習データとして取り込まれ、他者のプロンプトに対する回答として再浮上する可能性がある。IBMの2025年版「データ侵害のコストについての調査レポート」では、5社に1社がシャドーAIに関連したデータ漏えいを報告している。

• コンプライアンスと規制の懸念

　AIツールへの機密情報入力は、法規制への抵触を招く。顧客の個人を特定できる情報（Personally Identifiable Information：PII）の露出は、GDPR（一般データ保護規則）やHIPAA（医療保険の相互運用性と責任についての法律）、PCI DSS（カード業界のデータセキュリティ基準）などの違反となり、巨額の罰金や社会的信用の失墜につながる。

• 不正確な出力（ハルシネーション）

　AIツールはもっともらしい嘘をつく「ハルシネーション」を起こしたり、古い情報に基づいたりすることがある。これに基づいて採用判断や事業計画の策定を行うと、戦略的な失敗を招く。検証なしにAIの判断を導入すれば、顧客の不当な選別や採用候補者の排除といった問題を引き起こし、企業の評判を傷つける。

• 攻撃対象領域（アタックサーフェス）の拡大

　ブラウザの拡張機能として提供されるAIツールもある。悪意のあるAIプラグインを導入すれば、企業のネットワークへの新たな侵入経路となり、攻撃者に悪用されるリスクが高まる。

• 監査の困難さ

　セキュリティチームはシャドーAIの利用を追跡できない。そのため、特定の意思決定がどのようになされたかの事後確認や、セキュリティインシデント発生時の調査が極めて困難になる。

シャドーAIの具体的な利用例

　ビジネス現場でのシャドーAIは、主に以下のような未承認の形で行われる。

• 未承認のチャットボットで顧客の問い合わせに回答する
• 未検証のAIツールに機密データを貼り付けて要約レポートを作成する
• 一般公開されているAIツールを使い、機密情報を含むメールを執筆する
• 未承認のAIツールで採用候補者の履歴書をスクリーニングする
• 管理外のAIツールで契約書のドラフトを作成し、守秘情報を露出させる

リスクを最小化する4つの戦略的アプローチ

　シャドーAIの追跡は困難だが、リスクを軽減する戦略は存在する。被害を防ぐための4つのアプローチを紹介する。

1. 5つの柱（5-pillar）によるアプローチ

　この手法は、未承認の利用を「特定の制御とガイドラインを備えた組織的な採用」へと転換させるものだ。以下の5要素を組み合わせる。

• 受容（Accept）

　まずは従業員がアイデア出しや要約、メールの下書きにAIを使っている現実を認める。ユースケースを特定することで、禁止するのではなく、安全な利用を可能にするポリシーを提案できる。

• 採用（Adopt）

　受容したワークフローを支えるため、セキュアな法人版AIツールを提供する。大規模言語モデル（LLM）のプライベートインスタンスの構築や、データプライバシーが保証された法人向けサブスクリプションの契約が有効だ。

• 加速（Accelerate）

　新しいツールの評価テンプレートを確立する。承認プロセスが硬直的で遅いと、シャドーAIを助長する。機敏な審査体制を整え、セキュリティや法務チームがデータ保護規制への適合性を迅速に判断すべきだ。

• 制限（Restrict）

　機密データ保護のため、個人アカウントでの業務処理を厳禁とする。WebベースのAI画面に機密データを貼り付けられないよう、データ流出防止（DLP）ポリシーを適用する。

• 排除（Eliminate）

　個人アカウントに入力されたデータは永続的に残る恐れがある。ハーモニックセキュリティの2025年の調査では、機密性の高いAI操作の45%が個人メールアカウント経由だった。退職者が業務データにアクセスし続けるのを防ぐため、オフボーディング時に個人アカウントの利用状況を確認し、業務データが残っていないかチェックする必要がある。

2. AIアムネスティ（特赦）プログラム

　AIアムネスティとは、従業員が未承認のAI利用を「処罰なし」で自発的に申告することを促すプログラムだ。隠れた問題をガバナンスの対象へと引き出すのが狙いだ。成功には経営陣の強力な関与と、従業員との信頼構築が必要だ。以下の7ステップで進める。

• CEOによる承認：処罰しない方針をトップが明確に全社員へ伝える
• 期間の設定：1～2カ月程度の期限を設け、早めの申告を促す
• アンケート作成：利用ツール、目的、入力データの種類、メリットを調査する
• 窓口の設置：専用メールや匿名フォームなど、提出しやすい環境を整える
• 委員会設立：法務、人事、IT、リスク管理部門からなる委員会が運用する
• 結果の分析：顧客の個人情報入力など、高リスクな回答には即座に対応する
• フィードバック：処罰ではなく「安全な利用のための改善」につながったことを共有する

3. 継続的な可視化

　組織は「見えないもの」を守ることはできない。シャドーAIを統制するには、IT環境の各層で多層的な検知を行うべきだ。

• ネットワーク層：ファイアウォールやSIEMで、AIサービスへの通信やAPIコールを監視する
• エンドポイント層：EDR（エンドポイント検知・対処）を使い、デバイスレベルでのAI拡張機能の導入などを検知する
• SaaS層：CASB（クラウドアクセスセキュリティブローカー）などを活用し、SlackやMicrosoft 365といった公認アプリケーション内に潜む未承認のAI連携を特定する
• データ保護層：組織外の未承認AIサービスへ、機密情報や営業秘密が送信される前に遮断する

　監視にあたっては、プロンプトの内容まで全て記録するのではなく「誰がどのツールを使っているか」に焦点を当てるなど、プライバシーへの配慮と透明性の確保が重要だ。

4. AIリテラシー教育の徹底

　技術的な制御を超えて、従業員のAIリテラシーを高める投資が必要だ。これはAIを単に「使いこなす」だけでなく、業務データを取り扱う際のセキュリティやプライバシーの課題を正しく理解することを指す。

　欧州のAI法（EU AI Act）第4条でも、AIシステムの運用に関わる人員で適切なAIリテラシーを確保することが義務付けられている。

　教育は役割に応じて個別化すべきだ。開発者であれば、AIによるコード支援のベストプラクティスやAPI連携の安全性を学ぶ必要がある。一方で経営層は、プライバシーやセキュリティ、法的・倫理的責任といった広範なリスクを理解しなければならない。