「AIへの信頼」が招くガバナンスの崩壊
従業員の4割がAIに機密データを送信 送っているのはどんな人？
従業員がチャットAIに抱く心理的信頼が、従来のセキュリティ境界を無効化している。サムスンなどの事例から「摩擦のない入力」の危うさを浮き彫りにし、技術を超えたガバナンスとデータ中心の防御戦略を提示する。
企業が業務全般にAIを導入しようと急ぐ中、重大な局面が訪れようとしている。AIが生成する新たな攻撃手法と、従業員がチャットボットやAIアシスタントに寄せる「感情的な信頼」が交錯しているのだ。これにより、従来想定していなかったセキュリティ上の盲点が生じている。
セキュリティチームは、プロンプトインジェクションやデータポイズニング、バイアスの悪用、ディープフェイク、モデルの予期せぬ挙動といったAI導入に伴う脅威の対策に追われている。こうした技術的な懸念への対処は絶え間ない闘いだが、それ以上に厄介なのが心理的な課題だ。従業員が、親切で友好的なデジタルアシスタントとして信頼するようになった対話型AIシステムに、機密情報を過剰に共有してしまう問題である。
情報共有という落とし穴
「シャドーAI」に関連する編集部お薦め記事
生成AIやチャットボットの個人利用は広く普及しており、その影響は職場にも及んでいる。心理学者は、人間は相手が機械であっても、自分に話しかけてくるものに愛着を感じる傾向があると指摘する。大半のユーザーはAIに意識がないことを理解しているが、それでも感情を揺さぶられ、不適切な信頼を寄せてしまうのだ。
職場用AIと個人用AIの境界はあいまいで、一部の従業員は私生活での不適切な習慣を職場に持ち込んでいる。大半の企業ではAIアシスタントの利用についての確固たるポリシーをまだ確立できていない。また、自社のAI戦略を知らないまま、公式なチャンネルを通さずに個人のツールを業務で利用する従業員も多い。Microsoftの調査によると、ユーザーの78％が仕事に私物のAIツールを持ち込んでおり（BYOAI）、この傾向は中小企業でより顕著だという。さらに、National Cybersecurity AllianceとCybSafeの調査では、業務でAIを利用する従業員の43％が、雇用主に知らせることなく機密データをAIアプリケーションに送信していることが判明した。
こうした現状は、セキュリティチームにとって新たな火種となっている。ChatGPTなどの個人用AIアシスタントを信頼することに慣れた従業員は、警戒心を解きやすい。その結果、プライバシー保護機能が備わっていないシステムに、個人を特定できる情報（PII）や会社の機密データを共有してしまう可能性が高まる。事実、一般公開されている生成AIプラットフォームの多くは、入力データを学習に利用することを規約に明記している。
こうした行為は、現実的な被害を招いている。例えば、サムスン電子はAIアシスタントに関連する複数のセキュリティインシデントに見舞われた。2023年、あるエンジニアが半導体設備のプログラミングコードの誤りを修正するためにコードをChatGPTに貼り付けたことで、チップ製造プロセスで使用される機密コードが流出した。別の従業員は、会議の内容をChatGPTに入力し、機密性の高いビジネスインテリジェンスや内部の議論を露呈させてしまった。
アクセンチュアでサイバーセキュリティ担当マネジングディレクターを務めるネイネシュ・パテル氏は、AIアシスタントへの情報共有の容易さが問題だと指摘する。従来の企業セキュリティは、こうした事態を想定して設計されていない。「テキストボックスという概念自体、摩擦なく情報を入力できてしまう。それが便利であるという事実こそがリスクを生んでいる」とパテル氏は言う。
AIに対する信頼を統制する
技術的な脆弱（ぜいじゃく）性と人間の心理が組み合わさった現状で、CISO（最高情報セキュリティ責任者）とそのチームは、AIを介したデータ損失を防ぐための統制策を導入しなければならない。
パテル氏によれば、解決策はAIそのものを修正することではない。従業員によるAI利用をどのように統制（ガバナンス）するかを再考することだという。同氏は、データセキュリティの失敗の多くはモデルの欠陥ではなく、マシンスピードで実行されるアイデンティティー管理とガバナンスの欠如によるものだと主張する。
パテル氏は、企業で生成AIやチャットボットを導入する際、以下の保護策を講じることを推奨している。
- AIの運営会社や関連技術プロバイダーなど、外部に共有される場所への情報投稿を制限する
- 全ての入力データを組織の境界内に留める
- 全ての従業員に、必要な時に必要な分だけ権限を与える「ジャストインタイム」かつ「最小権限」のアクセス権を付与する
- セキュリティ運用（SecOps）チームがプロンプトの内容を確認し、リスクが生じた瞬間に介入できるテレメトリー（遠隔測定）を設定する
データ：新たな「境界」
もはやデータそのものが新たな「境界」といえる。生成AIや対話型AIは生産性向上ツールであると同時に、データの流出経路にもなり得る。セキュリティチームは、これらを他の承認済みデジタルツールと同様に扱うべきである。つまり、安全を確保し、統制を敷き、利用状況を監査し、従業員に安全な利用方法を教育する必要がある。
人間由来の脅威については、企業は厳格なポリシーを適用しなければならない。AIセキュリティの問題に直面したサムスンは、該当する従業員に懲戒処分を下した。その後、データ統制機能を備えた独自の内部AIシステムを開発し、最終的にセキュリティプロトコルを強化した。
対話型AIは、職場では効率性を高め、家庭では安らぎを与える存在になり得る。しかし最悪の場合、AIアシスタントはただでさえ困難な脅威環境をさらに悪化させる。確かなことは、人間の性質を変えるのは難しいということだ。人々は今後も必要以上に情報を共有し続けるだろう。それ故、セキュリティリーダーはリスクに対する考え方を根本的に進化させなければならない。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
なぜワンキャリアは障害復旧を3時間から1時間以内に短縮できたのか -
製品資料
自社のDevSecOpsはどこまで進んでいる？ 進捗を測る指針“成熟度モデル”とは -
製品資料
実際に悪用される脆弱性は4％前後 優先的に対処すべき脆弱性を把握するには？ -
事例
三菱ケミカルが脆弱性への迅速な対応フローを実現した方法とは？ -
技術文書・技術解説
MDMだけでは防げない？ Appleデバイスに潜む5つのセキュリティギャップ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
LLMの「過学習」、正しく説明している文章はどれ？
-
2
IT人材の42％が転職予備軍 辞めさせない組織の4つの共通
-
3
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
4
Claudeが耐量子暗号を攻略 迫られる暗号移行計画の見直し
-
5
問い合わせ対応業務を効率化、セマンティック検索とFAQ自動生成の活用メリット
-
6
「Google勤務なのに生活に困る」 非正規従業員の“厳し過ぎる現実”
-
7
GitHub Copilotを使いこなす第一歩 初めてのプロンプト6つのコツ
-
8
レガシー基幹システムをSAPに統合 山善が突き止めた「標準化と個別最適」の境界線
-
9
「HDD終了」は本当か 巨大クラウド2社が下した大容量フラッシュへの決断
-
10
「結局使わなくなる」Microsoft 365 Copilotを半年で定着 キリンの3施策
ホワイトペーパーランキング PR
-
1
属人化や仕様バグはなぜ起きる？ AI時代に必須のドキュメント文化の作り方
-
2
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
中小企業必見、Microsoft 365でゼロトラストセキュリティを実現する方法
-
6
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは？
-
7
“あのファイル転送”で暗躍するノーウェアランサム
-
8
5分で分かる「AI駆動開発エージェント」 要件定義から設計・実装・テストまで
-
9
動画で知るランサムウェア被害企業のリアル、会計データが無事だった理由とは
-
10
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー