DLPだけでは生成AIを守れない
AIが「無能な働き者」に? NRIセキュアが警告するリスクと5つのセキュリティ対策
AIエージェントは導入すれば終わりではない。NRIセキュアテクノロジーズの代田晃基氏は、AIエージェントにひも付くリスクや5段階の対策を紹介した。
生成AIの導入が企業で加速している。一方、NRIセキュアテクノロジーズの代田晃基氏(クラウドセキュリティ事業部 シニアセキュリティエンジニア)は、AIが「無能な働き者」として組織を壊すリスクを指摘する。自律的なAIエージェントの特性が招く情報漏えいや、従来の境界防御の限界に、データセキュリティ態勢管理(DSPM)を軸とした新時代のガバナンスと実践的な5つのステップを提唱する。
AIエージェントを「無能な働き者」にしないためには
併せて読みたいお薦め記事
AIエージェントの関連記事
昨今のビジネス界ではChatGPTなどの生成AI活用が急務となっている。一方、代田氏は、「利用推進のスピードに、セキュリティが追い付いている確信が持てないのが現場の本音だ」と語る。特に自律的に業務をこなす「AIエージェント」への進化が、新たなリスクを顕在化させている。
代田氏は、AIエージェント特有のリスク特性を「目的至上主義」「だまされやすい」「鋼の企業戦士」の3点に定義する。AIは与えられた目的を達成するために倫理や社内ルールを無視する「リワードハッキング」を起こす構造的欠陥を持つ。また、命令とデータを区別できない仕組み上、悪意ある外部データによって容易に乗っ取られる「プロンプトインジェクション」の脆弱(ぜいじゃく)性を抱えている。
さらに、人間のように疲労を感じないAIエージェントは「超高速で間違った処理を延々と実行し続ける」と代田氏は警鐘を鳴らす。これらが組み合わさった状態を、代田氏は組織内の人材を4タイプに分類する組織論に当てはめる。「AIエージェントが、誤った目的を、だまされたまま、ルールを逸脱して突き進む『無能な働き者』になり、組織にとって最も害となる存在になりかねない」と指摘する。
1000人の「新入社員」が全機密を暴くリスク
多くの企業では生成AIツールに「個人情報を入力しない」といったガイドラインを策定している。しかし、データの動きを可視化したり、個人情報の入力を完全に避けたりすることは困難だ。そのような中、代田氏は、生成AI時代のデータリスクの核心として「境界防御の限界」と「アクセス権の問題」を挙げる。
クラウドサービスの普及により、重要データは社外へ点在する「データ散在モデル」に移行している。従来のネットワークの壁で守る手法は通用しなくなりつつあるということだ。さらに、AIエージェントの導入は「24時間休まず全ファイルを網羅的に参照する新入社員が1000人同時に入社したのと同じことだ」と代田氏は例える。
人間であれば気付かないような深い階層にある機密ファイルであっても、寝ることも休むこともしないAIエージェントはアクセス権さえあれば瞬時に探し出し、回答に含めてしまう。かつては情報の「探しにくさ」によって偶発的に守られていた機密が、AIエージェントの検索・推論能力によって白日の下にさらされる「内部漏えい」のリスクは高まっている。
出口対策の限界と新概念「DSPM」による可視化
安全な活用のために代田氏が提唱するのが、データマネジメント、データガバナンス、データセキュリティを連携させる「三位一体」のアプローチだ。特に、従来のDLP(データ流出防止)だけでは不十分であると強調する。
DLPはあくまで出口での検知・ブロックを主眼とするため、クラウド内に散在するデータそのものを把握することは困難だ。そこで重要になるのが、新概念である「DSPM」(データセキュリティ態勢管理)である。DSPMは、ファイルサーバや各種クラウド、AIサービス上のどこに重要データがあるかを自動スキャンし、常時監視するソリューションだ。
代田氏は「守るべきデータがどこにあるか分からなければ、セキュリティ対策は機能しない。出口を止めるDLPと、環境内を可視化するDSPMの両輪をそろえることが不可欠だ」と説明した。
安全な活用に向けた「5ステップロードマップ」
具体的な実装策として、代田氏は5つのステップからなるロードマップを提示する。
ステップ1.データの可視化と棚卸し
DSPM等のAI駆動型ツールを駆使し、シャドーデータを含む重要データの所在を特定する。情報システム部門が把握できていなかった個人情報や機密情報を可視化、棚卸しする
ステップ2.機密性の分類とラベリング
ファイルに永続的な属性情報を付与する。ファイルがどこに移動しても、そのファイルが「極秘」であるという情報が追従する。これは、RAG(検索拡張生成)インデックスから機密情報を機械的に除外するための基盤となる。
ステップ3.動的アクセス制御の徹底
「極秘」であるという情報に基づき、機密ファイルをAIの読み込み対象から除外するなどの「アクセス制御」を徹底する。機密ファイルへのアクセスは、「プロジェクト期間中」「安全なネットワーク」といった特定の条件、環境下でのみ許可される。さらに過去に発生した不要なアクセス権を無効化する。
ステップ4.マスキングの自動化
ユーザーとAIの間にゲートウェイを配置し、個人情報などをリアルタイムで「マスキング」「匿名化」する。
ステップ5.DLPと電子透かし
防御の隙間を徹底的につぶす。「生成AIツールに機密情報をアップロードする」「機密情報を右クリックでコピー&ペーストして持ち出す」「ブラウザをスマートフォンで撮影する」といった情報漏えいを心理的に防ぐための手段として、代田氏は、「セッションウオーターマーク」(電子透かし)紹介する。これは、画面全体に従業員IDや氏名といった個人を同定できる情報を半透明で表示し、スマートフォンでの撮影やスクリーンショットといったデータの盗難を抑止するものだ。
代田氏は、セキュリティはビジネスの足を引っ張るものではなく「高性能なブレーキ」であると総括する。「世界最高峰のブレーキがついていると確信することで、強力なアクセルを踏み切ることが可能になる。セキュリティこそが、他社よりも強くビジネスをフルスロットルで稼働させるためのハンドルである」と述べ、講演を締めくくった。
※本稿は、2026年5月に開催された「ITmedia Security Week 2026 春」のセッション「AI活用を支えるデータセキュリティ・データガバナンスとは~いまこそ取り組むべき柔軟かつ強固なデータ統制の作り方~」の内容を記事化したものです。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] APIを資産化して再利用、旭化成ホームズに学ぶシステム連携コストの削減方法 -
事例
[横河レンタ・リース株式会社] 「Wi-Fiにつながらない」「会議中に途切れる」の原因を切り分けやすくするには -
技術文書・技術解説
[アトラシアン株式会社] AIを導入で終わらせない、個人の利用から組織の成果に変えるリーダーの実践指針 -
製品資料
[アトラシアン株式会社] 生成AIの全社展開とROI最大化を阻む“ナレッジの壁” 突破するための4ステップ -
製品資料
[株式会社Helpfeel] コールセンター長を悩ませる「4大課題」と解決策
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
2
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
3
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
4
冷凍庫が一晩で50℃に 仏約700拠点を襲ったOT攻撃、侵入口は「遠隔管理」
-
5
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
6
「プロンプトインジェクション」の適切なリスク対策はどれ?
-
7
ユナイテッド航空がAI予約エージェントを遮断、そのとき航空業界は何を失うのか
-
8
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
9
AI利用時に情報漏えいが起きた場合の適切な対応はどれ?
-
10
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
「Microsoft 365」徹底解説ガイド テレワーク時代のセキュリティ対策編
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー