「学習されないから安全」は本当?
「シャドーAI」の情シス責任問題を整理する 推進と統制を両立する3つの判断軸
「学習されない設定にしているから安全」と言われたら情シスは何と返せばいいのか。「シャドーAI」のリスクと情シスの責任範囲を整理し、推進と統制を両立するための判断軸を考える。
「学習されない設定にしているから大丈夫ですよね?」「うちの部署の詳しい人間が使っていいと言っていましたが」――。生成AI(人工知能)の業務利用が広がる中、情報システム部門(以下、情シス)への問い合わせがこんな形で届くようになった。
問い合わせが来るならまだいい。実態として、情シスに何も知らせないまま現場が生成AIツールを使い続けているケースもある。しかしインシデントが起きたとき、「なぜ把握していなかったのか」と問われるのは情シスだ。
「シャドーAI」の問題は、使っている従業員のリテラシーが低いことではない。情シスが「把握できない状態に置かれている」こと、そしてその状態のまま責任だけを問われる構造にある。本稿では、情シスがシャドーAI責任を本来どこまで負うべきかを整理した上で、「推進」と「統制」を両立するための判断軸を考えていく。
情シスはなぜ「把握できない状態」に置かれるのか
シャドーAIが情シスの管理外で広がる背景には、AIの進化速度という構造的な問題がある。
AIの進化速度とポリシー整備のギャップ
生成AIサービスの仕様や利用規約は頻繁に更新される。情シスがポリシーを検討している間に、現場の利用が既成事実化することは珍しくない。「禁止されていないから使っていい」という解釈が広がれば、情シスが気付いたときには相当数の従業員がすでに日常的に利用している、という状況が起きる場合もある。
AIツールの仕様変更は、ベンダー側の都合で予告なく実施される。昨日まで「学習に使われない」とされていた設定が、今日の利用規約では別の扱いになっていた、というケースも起き得る。情シスが全ての生成AIサービスの仕様変更を追い続けることは現実的に難しい。
シャドーAIはシャドーITより見えにくい
シャドーITは、ネットワークログやデバイス管理ツールを通じて一定程度把握できる場合もある。しかし近年は、個人アカウントや未管理端末を使ったブラウザ利用が増えており、利用実態を完全に可視化することは難しい。特に生成AIツールでは、「誰がどのツールを使っているか」を十分に把握できないケースもあるほか、「何を入力したか」まで監視することは技術的、運用的に容易ではない。
見えにくいということは管理しにくいということだ。そして管理し切れない状態では、インシデントが起きたとき初めてその深刻さが明らかになる。
「学習されないから安全」という主張に情シスはどう向き合うか
現場から届くこの主張は完全に間違っているわけではない。だからこそ情シスは言葉に詰まる。何が正しく、何が足りないのかを整理することが、情シスが「答えられる側」に立つための第一歩だ。
「学習させない」設定が指していること、指していないこと
生成AIサービスの多くは、入力データをモデルの改善に利用しないオプトアウト設定を提供している。従業員が「学習されない設定にしている」と言うときは、この設定を指していることが多い。
ただし、この設定が意味するのは「入力データがモデルの追加学習に使われない」というだけだ。入力した瞬間にデータがサーバへ送信されること、サーバ側で処理・一時保存されることは避けられない。つまり、入力した時点でデータは企業の管理の外に出ている。
加えて、各サービスの利用規約や設定の仕様は頻繁に変わる。従業員が「学習されない」と認識している根拠が、すでに古い情報である可能性もある。
個人アカウントと法人契約で何が違うのか
生成AIツールを法人契約した場合、企業とAIベンダーの間でデータ処理契約(DPA:Data Processing Agreement)を締結できる場合がある。DPAは、入力データの取り扱い方法、保存期間、第三者への提供制限などを定めた契約だ。個人アカウントの利用規約とは異なり、企業側の要件を交渉・反映できる余地がある。万一インシデントが発生した場合も、この契約がデータ管理の根拠として機能する。
一方、個人アカウントでの利用では、データの取り扱いについて企業側が条件を定める余地がない。従業員が個人アカウントでどのようなデータを入力していたかを、情シスは把握も制御もできない状態になりやすい。インシデントが発生した際に「従業員が個人で使っていた」という事実が、企業の管理責任を問う文脈で有効に機能するとは限らない。
インシデントが起きたとき、情シスはどこまで責任を負うのか
シャドーAIに起因するインシデントが発生したとき、情シスはどこまで責任を負うのか。その範囲を整理しておくことが、情シスが経営層に説明する場面に有効に働く。
情シスが問われやすい3つの場面
インシデントが表面化したとき、情シスには複数の問いが同時に飛んでくる。「なぜ把握していなかったのか」(シャドーAI利用の未把握)、「ポリシーがなかった理由」(ガイドラインの未整備)、「なぜ止めなかったのか」(技術的に制御しなかった不手際)。いずれも、事前に手を打っていなければ答えに詰まる問いだ。
本来の責任範囲はどこか
ただし現実問題として、従業員の個人端末や個人回線でのシャドーAIの利用を技術的に完全に遮断することは難しく、それを情シスだけに求めるのは無理がある。
情シスの責任は「合理的な管理体制を整えていたかどうか」にある。また、体制を整えようとした形跡があるかどうかも、責任の所在を判断する上での分かれ目になる。定期的な利用状況の確認、ポリシーの整備過程の記録、承認ツールの提示などが、インシデント発生時の情シスの防衛線になる。
情シスが持つべき3つの整理軸
情シスが、シャドーAIの利用を全面禁止するのでも、無制限に放置するのでもなく、「管理可能な範囲で利用を認める」という立場を取るにはどうすればいいのか。次に、情シスが経営・現場の両方に説明できる判断フレームを整理する。
入力する情報を分類する
まず取り組むべきは、どの情報をAIに入力することが問題になるのかを類型化することだ。「社外秘」「個人情報」「顧客情報」「未公開の財務情報」などを「AIツールへの入力を禁止する情報」として具体的に定義する。「何でもNG」ではなく「この種の情報はNG」と具体化することで、現場が自己判断できる状態を作ることができる。
情報の分類はゼロから作る必要はない。すでに社内の情報管理規程や情報セキュリティポリシーに定義されている情報区分を、AI利用のコンテキストに当てはめるのが現実的だ。
ツールの契約形態を分類する
情シスに求められるのは、AI利用を全面禁止することではなく、「会社として管理できるAI利用」へ現場を誘導することだ。
そのためには、個人契約のAIツールと、法人契約ツールの違いを整理する必要がある。個人アカウントでは利用実態を把握しにくく、ログ管理やアカウント停止も困難だ。一方、法人契約版であれば、シングルサインオン(SSO)連携や管理者設定、データ保護ポリシーなどを適用できる場合がある。
重要なのは、禁止することではない。「このツールを使ってほしい」と承認済みのAIツールを提示し、現場のAI活用を“管理可能な範囲”へ誘導することにある。
利用状況を定期的に把握する
完全なログの取得は現実的に難しい。しかし、完全でなくても「把握しようとしている状態」を作ることには意味がある。定期的なアンケートや利用申告の仕組みを設けることで、情シスが利用実態をある程度把握していることを記録として残せる。
この記録は、インシデント発生時に「管理を怠っていたわけではない」という情シスの防衛線になる。また、現場がどのツールをどんな用途で使っているかが見えることで、次のポリシー整備の優先順位を立てる材料にもなる。
情シスの役割は「管理できている状態」を作ること
シャドーAIの責任を全て情シスが負う必要はない。しかし「把握しようとしていなかった」状態は、責任を問われる根拠になる。
「学習されない設定だから安全」という問いへの答えは、否定ではなく「それだけでは足りない理由の言語化」だ。個人アカウントにはDPAがない、入力した時点でデータはサーバに送られる、仕様は頻繁に変わる。これらを情シスが説明できる言葉として持つことが起点になる。それが、推進と統制を両立する道であり、シャドーAIに情シスが本来果たすべき役割の出発点になる。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品レビュー
[ヴィーム・ソフトウェア株式会社] SCS評価制度を導入するだけで十分? 組織の防御力を高める活用方法とは -
技術文書・技術解説
[フォーティネットジャパン合同会社] AIランサムウェアに勝つ 自律型エンドポイント管理導入で確認すべき条件4つ -
技術文書・技術解説
[フォーティネットジャパン合同会社] LLMが兵器化? 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント -
製品レビュー
[ネットアップ合同会社] 研究分野でAI活用が進まない? 真の成果につなげるデータ管理の在り方とは -
製品レビュー
[ヴィーム・ソフトウェア株式会社] SCS評価制度を導入するだけで十分? 組織の防御力を高める活用方法とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
2
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
3
Claude Codeでは「エージェントを作るな、スキルを作れ」 Anthropicが示すAI構築術
-
4
「WSUS」終了の時限爆弾 “本命”移行先ツールとMicrosoft提唱の新管理手法
-
5
AIエージェント導入が82%増 Salesforce調査で判明した“急拡大”の代償
-
6
全社標準Copilotに絶望? MS Copilotで問い合わせ6割減できた企業は何が違った
-
7
ITエンジニア1265人調査 生成AIを使い込むほど「人の確認」が重い理由
-
8
VMware離れの決め手は“機能”以外だった 情シス109人が選んだ新基準と死角は
-
9
IBM iのブラックボックス化を打破 資産継承と進化を実現する「IBM Bob」の実力
-
10
経理のAIエージェント化が進む今 見落としてはならない「統制の5原則」
ホワイトペーパーランキング PR
-
1
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
2
Linuxのスキルを証明する“激推し”の認定資格はこれだ
-
3
バックアップは“取っているから大丈夫”なのか? ランサムウェア時代の備え方
-
4
ネットワーク遅延の原因、「パケットロス」の基礎知識と効果的な解決策
-
5
月1000枚の紙を削減 9年動けなかった組織が、業務改革のその先に得たもの
-
6
「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略
-
7
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
8
ソフトウェア開発の属人化と手戻りをどう防ぐ? 速さと品質を両立させる方法
-
9
AI活用を停滞させる「2:6:2の壁」を乗り越えるためのポイントとは?
-
10
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー