「AIへの信頼」が招くガバナンスの崩壊
従業員の4割がAIに機密データを送信 送っているのはどんな人？
従業員がチャットAIに抱く心理的信頼が、従来のセキュリティ境界を無効化している。サムスンなどの事例から「摩擦のない入力」の危うさを浮き彫りにし、技術を超えたガバナンスとデータ中心の防御戦略を提示する。
企業が業務全般にAIを導入しようと急ぐ中、重大な局面が訪れようとしている。AIが生成する新たな攻撃手法と、従業員がチャットボットやAIアシスタントに寄せる「感情的な信頼」が交錯しているのだ。これにより、従来想定していなかったセキュリティ上の盲点が生じている。
セキュリティチームは、プロンプトインジェクションやデータポイズニング、バイアスの悪用、ディープフェイク、モデルの予期せぬ挙動といったAI導入に伴う脅威の対策に追われている。こうした技術的な懸念への対処は絶え間ない闘いだが、それ以上に厄介なのが心理的な課題だ。従業員が、親切で友好的なデジタルアシスタントとして信頼するようになった対話型AIシステムに、機密情報を過剰に共有してしまう問題である。
情報共有という落とし穴
「シャドーAI」に関連する編集部お薦め記事
生成AIやチャットボットの個人利用は広く普及しており、その影響は職場にも及んでいる。心理学者は、人間は相手が機械であっても、自分に話しかけてくるものに愛着を感じる傾向があると指摘する。大半のユーザーはAIに意識がないことを理解しているが、それでも感情を揺さぶられ、不適切な信頼を寄せてしまうのだ。
職場用AIと個人用AIの境界はあいまいで、一部の従業員は私生活での不適切な習慣を職場に持ち込んでいる。大半の企業ではAIアシスタントの利用についての確固たるポリシーをまだ確立できていない。また、自社のAI戦略を知らないまま、公式なチャンネルを通さずに個人のツールを業務で利用する従業員も多い。Microsoftの調査によると、ユーザーの78％が仕事に私物のAIツールを持ち込んでおり（BYOAI）、この傾向は中小企業でより顕著だという。さらに、National Cybersecurity AllianceとCybSafeの調査では、業務でAIを利用する従業員の43％が、雇用主に知らせることなく機密データをAIアプリケーションに送信していることが判明した。
こうした現状は、セキュリティチームにとって新たな火種となっている。ChatGPTなどの個人用AIアシスタントを信頼することに慣れた従業員は、警戒心を解きやすい。その結果、プライバシー保護機能が備わっていないシステムに、個人を特定できる情報（PII）や会社の機密データを共有してしまう可能性が高まる。事実、一般公開されている生成AIプラットフォームの多くは、入力データを学習に利用することを規約に明記している。
こうした行為は、現実的な被害を招いている。例えば、サムスン電子はAIアシスタントに関連する複数のセキュリティインシデントに見舞われた。2023年、あるエンジニアが半導体設備のプログラミングコードの誤りを修正するためにコードをChatGPTに貼り付けたことで、チップ製造プロセスで使用される機密コードが流出した。別の従業員は、会議の内容をChatGPTに入力し、機密性の高いビジネスインテリジェンスや内部の議論を露呈させてしまった。
アクセンチュアでサイバーセキュリティ担当マネジングディレクターを務めるネイネシュ・パテル氏は、AIアシスタントへの情報共有の容易さが問題だと指摘する。従来の企業セキュリティは、こうした事態を想定して設計されていない。「テキストボックスという概念自体、摩擦なく情報を入力できてしまう。それが便利であるという事実こそがリスクを生んでいる」とパテル氏は言う。
AIに対する信頼を統制する
技術的な脆弱（ぜいじゃく）性と人間の心理が組み合わさった現状で、CISO（最高情報セキュリティ責任者）とそのチームは、AIを介したデータ損失を防ぐための統制策を導入しなければならない。
パテル氏によれば、解決策はAIそのものを修正することではない。従業員によるAI利用をどのように統制（ガバナンス）するかを再考することだという。同氏は、データセキュリティの失敗の多くはモデルの欠陥ではなく、マシンスピードで実行されるアイデンティティー管理とガバナンスの欠如によるものだと主張する。
パテル氏は、企業で生成AIやチャットボットを導入する際、以下の保護策を講じることを推奨している。
- AIの運営会社や関連技術プロバイダーなど、外部に共有される場所への情報投稿を制限する
- 全ての入力データを組織の境界内に留める
- 全ての従業員に、必要な時に必要な分だけ権限を与える「ジャストインタイム」かつ「最小権限」のアクセス権を付与する
- セキュリティ運用（SecOps）チームがプロンプトの内容を確認し、リスクが生じた瞬間に介入できるテレメトリー（遠隔測定）を設定する
データ：新たな「境界」
もはやデータそのものが新たな「境界」といえる。生成AIや対話型AIは生産性向上ツールであると同時に、データの流出経路にもなり得る。セキュリティチームは、これらを他の承認済みデジタルツールと同様に扱うべきである。つまり、安全を確保し、統制を敷き、利用状況を監査し、従業員に安全な利用方法を教育する必要がある。
人間由来の脅威については、企業は厳格なポリシーを適用しなければならない。AIセキュリティの問題に直面したサムスンは、該当する従業員に懲戒処分を下した。その後、データ統制機能を備えた独自の内部AIシステムを開発し、最終的にセキュリティプロトコルを強化した。
対話型AIは、職場では効率性を高め、家庭では安らぎを与える存在になり得る。しかし最悪の場合、AIアシスタントはただでさえ困難な脅威環境をさらに悪化させる。確かなことは、人間の性質を変えるのは難しいということだ。人々は今後も必要以上に情報を共有し続けるだろう。それ故、セキュリティリーダーはリスクに対する考え方を根本的に進化させなければならない。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[富士ソフト株式会社] 受注業務は既に変革のステージ 出遅れて競争力を失わないためのDX戦略 -
市場調査・トレンド
[富士ソフト株式会社] 受注業務でありがち 「今は困っていない」と見直しを先送りにすることの弊害 -
製品資料
[富士ソフト株式会社] 「B2B EC」選定を製品比較から始めると迷走する理由 -
技術文書・技術解説
[SB C&S株式会社] 「Everpure FlashArray」技術詳細解説資料：概要から認証、サイジングまで解説 -
市場調査・トレンド
[セコムトラストシステムズ株式会社] EDR導入を成功に導くロードマップ：選定／稟議／運用のつまずきを防ぐコツ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
2
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
3
IT業界の女性は9割が10年で消える 人材枯渇を招く“見えない壁”の正体
-
4
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
5
生成AIのルール整備が進む一方で活用は遅れがち？ 日本企業のAI利用状況
-
6
脱VMwareの真実：データセンター大手がNutanixを選んだ「コスト以上の理由」
-
7
ChatGPTの「GPT」とは？ 仕組みや用途など“ChatGPTの基本”を解説
-
8
積水化学工業が「SAP S/4HANA Cloud」の“全グループ導入”に踏み切った訳
-
9
使いやすさにこだわった電子カルテ「SimCLINIC T3」
-
10
どこでも通用するはずの情シス管理職が“詰む瞬間” 前もってしておくことは？
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
3
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
4
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
5
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
6
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
7
ランサムウェア攻撃“究極の対策”はこれだ
-
8
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
9
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
10
生成AIの活用を阻む「5つの壁」とは？ AIネイティブ組織へ変革を遂げる方法
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー