従業員の4割がAIに機密データを送信 送っているのはどんな人？：「AIへの信頼」が招くガバナンスの崩壊

従業員がチャットAIに抱く心理的信頼が、従来のセキュリティ境界を無効化している。サムスンなどの事例から「摩擦のない入力」の危うさを浮き彫りにし、技術を超えたガバナンスとデータ中心の防御戦略を提示する。

[Richard Livingston，TechTarget]

　企業が業務全般にAIを導入しようと急ぐ中、重大な局面が訪れようとしている。AIが生成する新たな攻撃手法と、従業員がチャットボットやAIアシスタントに寄せる「感情的な信頼」が交錯しているのだ。これにより、従来想定していなかったセキュリティ上の盲点が生じている。

　セキュリティチームは、プロンプトインジェクションやデータポイズニング、バイアスの悪用、ディープフェイク、モデルの予期せぬ挙動といったAI導入に伴う脅威の対策に追われている。こうした技術的な懸念への対処は絶え間ない闘いだが、それ以上に厄介なのが心理的な課題だ。従業員が、親切で友好的なデジタルアシスタントとして信頼するようになった対話型AIシステムに、機密情報を過剰に共有してしまう問題である。

情報共有という落とし穴

「シャドーAI」に関連する編集部お薦め記事

　生成AIやチャットボットの個人利用は広く普及しており、その影響は職場にも及んでいる。心理学者は、人間は相手が機械であっても、自分に話しかけてくるものに愛着を感じる傾向があると指摘する。大半のユーザーはAIに意識がないことを理解しているが、それでも感情を揺さぶられ、不適切な信頼を寄せてしまうのだ。

　職場用AIと個人用AIの境界はあいまいで、一部の従業員は私生活での不適切な習慣を職場に持ち込んでいる。大半の企業ではAIアシスタントの利用についての確固たるポリシーをまだ確立できていない。また、自社のAI戦略を知らないまま、公式なチャンネルを通さずに個人のツールを業務で利用する従業員も多い。Microsoftの調査によると、ユーザーの78％が仕事に私物のAIツールを持ち込んでおり（BYOAI）、この傾向は中小企業でより顕著だという。さらに、National Cybersecurity AllianceとCybSafeの調査では、業務でAIを利用する従業員の43％が、雇用主に知らせることなく機密データをAIアプリケーションに送信していることが判明した。

　こうした現状は、セキュリティチームにとって新たな火種となっている。ChatGPTなどの個人用AIアシスタントを信頼することに慣れた従業員は、警戒心を解きやすい。その結果、プライバシー保護機能が備わっていないシステムに、個人を特定できる情報（PII）や会社の機密データを共有してしまう可能性が高まる。事実、一般公開されている生成AIプラットフォームの多くは、入力データを学習に利用することを規約に明記している。

　こうした行為は、現実的な被害を招いている。例えば、サムスン電子はAIアシスタントに関連する複数のセキュリティインシデントに見舞われた。2023年、あるエンジニアが半導体設備のプログラミングコードの誤りを修正するためにコードをChatGPTに貼り付けたことで、チップ製造プロセスで使用される機密コードが流出した。別の従業員は、会議の内容をChatGPTに入力し、機密性の高いビジネスインテリジェンスや内部の議論を露呈させてしまった。

　アクセンチュアでサイバーセキュリティ担当マネジングディレクターを務めるネイネシュ・パテル氏は、AIアシスタントへの情報共有の容易さが問題だと指摘する。従来の企業セキュリティは、こうした事態を想定して設計されていない。「テキストボックスという概念自体、摩擦なく情報を入力できてしまう。それが便利であるという事実こそがリスクを生んでいる」とパテル氏は言う。

AIに対する信頼を統制する

　技術的な脆弱（ぜいじゃく）性と人間の心理が組み合わさった現状で、CISO（最高情報セキュリティ責任者）とそのチームは、AIを介したデータ損失を防ぐための統制策を導入しなければならない。

　パテル氏によれば、解決策はAIそのものを修正することではない。従業員によるAI利用をどのように統制（ガバナンス）するかを再考することだという。同氏は、データセキュリティの失敗の多くはモデルの欠陥ではなく、マシンスピードで実行されるアイデンティティー管理とガバナンスの欠如によるものだと主張する。

　パテル氏は、企業で生成AIやチャットボットを導入する際、以下の保護策を講じることを推奨している。

• AIの運営会社や関連技術プロバイダーなど、外部に共有される場所への情報投稿を制限する
• 全ての入力データを組織の境界内に留める
• 全ての従業員に、必要な時に必要な分だけ権限を与える「ジャストインタイム」かつ「最小権限」のアクセス権を付与する
• セキュリティ運用（SecOps）チームがプロンプトの内容を確認し、リスクが生じた瞬間に介入できるテレメトリー（遠隔測定）を設定する

データ：新たな「境界」

　もはやデータそのものが新たな「境界」といえる。生成AIや対話型AIは生産性向上ツールであると同時に、データの流出経路にもなり得る。セキュリティチームは、これらを他の承認済みデジタルツールと同様に扱うべきである。つまり、安全を確保し、統制を敷き、利用状況を監査し、従業員に安全な利用方法を教育する必要がある。

　人間由来の脅威については、企業は厳格なポリシーを適用しなければならない。AIセキュリティの問題に直面したサムスンは、該当する従業員に懲戒処分を下した。その後、データ統制機能を備えた独自の内部AIシステムを開発し、最終的にセキュリティプロトコルを強化した。

　対話型AIは、職場では効率性を高め、家庭では安らぎを与える存在になり得る。しかし最悪の場合、AIアシスタントはただでさえ困難な脅威環境をさらに悪化させる。確かなことは、人間の性質を変えるのは難しいということだ。人々は今後も必要以上に情報を共有し続けるだろう。それ故、セキュリティリーダーはリスクに対する考え方を根本的に進化させなければならない。