「AIへの信頼」が招くガバナンスの崩壊
従業員の4割がAIに機密データを送信 送っているのはどんな人？
従業員がチャットAIに抱く心理的信頼が、従来のセキュリティ境界を無効化している。サムスンなどの事例から「摩擦のない入力」の危うさを浮き彫りにし、技術を超えたガバナンスとデータ中心の防御戦略を提示する。
企業が業務全般にAIを導入しようと急ぐ中、重大な局面が訪れようとしている。AIが生成する新たな攻撃手法と、従業員がチャットボットやAIアシスタントに寄せる「感情的な信頼」が交錯しているのだ。これにより、従来想定していなかったセキュリティ上の盲点が生じている。
セキュリティチームは、プロンプトインジェクションやデータポイズニング、バイアスの悪用、ディープフェイク、モデルの予期せぬ挙動といったAI導入に伴う脅威の対策に追われている。こうした技術的な懸念への対処は絶え間ない闘いだが、それ以上に厄介なのが心理的な課題だ。従業員が、親切で友好的なデジタルアシスタントとして信頼するようになった対話型AIシステムに、機密情報を過剰に共有してしまう問題である。
情報共有という落とし穴
「シャドーAI」に関連する編集部お薦め記事
生成AIやチャットボットの個人利用は広く普及しており、その影響は職場にも及んでいる。心理学者は、人間は相手が機械であっても、自分に話しかけてくるものに愛着を感じる傾向があると指摘する。大半のユーザーはAIに意識がないことを理解しているが、それでも感情を揺さぶられ、不適切な信頼を寄せてしまうのだ。
職場用AIと個人用AIの境界はあいまいで、一部の従業員は私生活での不適切な習慣を職場に持ち込んでいる。大半の企業ではAIアシスタントの利用についての確固たるポリシーをまだ確立できていない。また、自社のAI戦略を知らないまま、公式なチャンネルを通さずに個人のツールを業務で利用する従業員も多い。Microsoftの調査によると、ユーザーの78％が仕事に私物のAIツールを持ち込んでおり（BYOAI）、この傾向は中小企業でより顕著だという。さらに、National Cybersecurity AllianceとCybSafeの調査では、業務でAIを利用する従業員の43％が、雇用主に知らせることなく機密データをAIアプリケーションに送信していることが判明した。
こうした現状は、セキュリティチームにとって新たな火種となっている。ChatGPTなどの個人用AIアシスタントを信頼することに慣れた従業員は、警戒心を解きやすい。その結果、プライバシー保護機能が備わっていないシステムに、個人を特定できる情報（PII）や会社の機密データを共有してしまう可能性が高まる。事実、一般公開されている生成AIプラットフォームの多くは、入力データを学習に利用することを規約に明記している。
こうした行為は、現実的な被害を招いている。例えば、サムスン電子はAIアシスタントに関連する複数のセキュリティインシデントに見舞われた。2023年、あるエンジニアが半導体設備のプログラミングコードの誤りを修正するためにコードをChatGPTに貼り付けたことで、チップ製造プロセスで使用される機密コードが流出した。別の従業員は、会議の内容をChatGPTに入力し、機密性の高いビジネスインテリジェンスや内部の議論を露呈させてしまった。
アクセンチュアでサイバーセキュリティ担当マネジングディレクターを務めるネイネシュ・パテル氏は、AIアシスタントへの情報共有の容易さが問題だと指摘する。従来の企業セキュリティは、こうした事態を想定して設計されていない。「テキストボックスという概念自体、摩擦なく情報を入力できてしまう。それが便利であるという事実こそがリスクを生んでいる」とパテル氏は言う。
AIに対する信頼を統制する
技術的な脆弱（ぜいじゃく）性と人間の心理が組み合わさった現状で、CISO（最高情報セキュリティ責任者）とそのチームは、AIを介したデータ損失を防ぐための統制策を導入しなければならない。
パテル氏によれば、解決策はAIそのものを修正することではない。従業員によるAI利用をどのように統制（ガバナンス）するかを再考することだという。同氏は、データセキュリティの失敗の多くはモデルの欠陥ではなく、マシンスピードで実行されるアイデンティティー管理とガバナンスの欠如によるものだと主張する。
パテル氏は、企業で生成AIやチャットボットを導入する際、以下の保護策を講じることを推奨している。
- AIの運営会社や関連技術プロバイダーなど、外部に共有される場所への情報投稿を制限する
- 全ての入力データを組織の境界内に留める
- 全ての従業員に、必要な時に必要な分だけ権限を与える「ジャストインタイム」かつ「最小権限」のアクセス権を付与する
- セキュリティ運用（SecOps）チームがプロンプトの内容を確認し、リスクが生じた瞬間に介入できるテレメトリー（遠隔測定）を設定する
データ：新たな「境界」
もはやデータそのものが新たな「境界」といえる。生成AIや対話型AIは生産性向上ツールであると同時に、データの流出経路にもなり得る。セキュリティチームは、これらを他の承認済みデジタルツールと同様に扱うべきである。つまり、安全を確保し、統制を敷き、利用状況を監査し、従業員に安全な利用方法を教育する必要がある。
人間由来の脅威については、企業は厳格なポリシーを適用しなければならない。AIセキュリティの問題に直面したサムスンは、該当する従業員に懲戒処分を下した。その後、データ統制機能を備えた独自の内部AIシステムを開発し、最終的にセキュリティプロトコルを強化した。
対話型AIは、職場では効率性を高め、家庭では安らぎを与える存在になり得る。しかし最悪の場合、AIアシスタントはただでさえ困難な脅威環境をさらに悪化させる。確かなことは、人間の性質を変えるのは難しいということだ。人々は今後も必要以上に情報を共有し続けるだろう。それ故、セキュリティリーダーはリスクに対する考え方を根本的に進化させなければならない。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社MatrixFlow] 「物流リソース最適化」ガイド：人員・配車・傭車を出庫依頼の確定前に決めきる -
製品資料
[株式会社キーエンス] なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは -
製品資料
[株式会社セールスフォース・ジャパン] 「CRMは設計と無関係」は本当か？ PLMとの融合で実現する高速開発 -
事例
[日本ヒューレット・パッカード合同会社] AIエージェントの時代にどう備える？ 「新たな働き手」を支える3要素とは -
製品資料
[日本ヒューレット・パッカード合同会社] “横並びの自動化”から脱却、AI活用で生産性と競争力を高める秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
2
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
3
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
4
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
5
情シスの約8割が転職や退職を意識 調査で分かった“辞めたくなる最大の理由”
-
6
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
7
情報漏えいはなぜ繰り返されるのか 今すぐ見直すべき「境界」
-
8
「Wi-Fi 7」経由でWindowsが乗っ取られる？ 最高権限奪取の恐怖
-
9
「結局使わなくなる」Microsoft 365 Copilotを半年で定着 キリンの3施策
-
10
「中堅・中小企業のネットワーク・セキュリティ運用実態」に関するアンケート
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
3
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
4
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
5
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
6
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
7
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
8
生成AIを開発に導入しても効果が見えない？ 実証実験で分かった成果と課題
-
9
経産省DX指針から読み解く、受発注業務デジタル化ロードマップ
-
10
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー