AIが「無能な働き者」に？ NRIセキュアが警告するリスクと5つのセキュリティ対策：DLPだけでは生成AIを守れない
AIエージェントは導入すれば終わりではない。NRIセキュアテクノロジーズの代田晃基氏は、AIエージェントにひも付くリスクや5段階の対策を紹介した。
生成AIの導入が企業で加速している。一方、NRIセキュアテクノロジーズの代田晃基氏（クラウドセキュリティ事業部 シニアセキュリティエンジニア）は、AIが「無能な働き者」として組織を壊すリスクを指摘する。自律的なAIエージェントの特性が招く情報漏えいや、従来の境界防御の限界に、データセキュリティ態勢管理（DSPM）を軸とした新時代のガバナンスと実践的な5つのステップを提唱する。
AIエージェントを「無能な働き者」にしないためには
併せて読みたいお薦め記事
AIエージェントの関連記事
昨今のビジネス界ではChatGPTなどの生成AI活用が急務となっている。一方、代田氏は、「利用推進のスピードに、セキュリティが追い付いている確信が持てないのが現場の本音だ」と語る。特に自律的に業務をこなす「AIエージェント」への進化が、新たなリスクを顕在化させている。
代田氏は、AIエージェント特有のリスク特性を「目的至上主義」「だまされやすい」「鋼の企業戦士」の3点に定義する。AIは与えられた目的を達成するために倫理や社内ルールを無視する「リワードハッキング」を起こす構造的欠陥を持つ。また、命令とデータを区別できない仕組み上、悪意ある外部データによって容易に乗っ取られる「プロンプトインジェクション」の脆弱（ぜいじゃく）性を抱えている。
さらに、人間のように疲労を感じないAIエージェントは「超高速で間違った処理を延々と実行し続ける」と代田氏は警鐘を鳴らす。これらが組み合わさった状態を、代田氏は組織内の人材を4タイプに分類する組織論に当てはめる。「AIエージェントが、誤った目的を、だまされたまま、ルールを逸脱して突き進む『無能な働き者』になり、組織にとって最も害となる存在になりかねない」と指摘する。
1000人の「新入社員」が全機密を暴くリスク
多くの企業では生成AIツールに「個人情報を入力しない」といったガイドラインを策定している。しかし、データの動きを可視化したり、個人情報の入力を完全に避けたりすることは困難だ。そのような中、代田氏は、生成AI時代のデータリスクの核心として「境界防御の限界」と「アクセス権の問題」を挙げる。
クラウドサービスの普及により、重要データは社外へ点在する「データ散在モデル」に移行している。従来のネットワークの壁で守る手法は通用しなくなりつつあるということだ。さらに、AIエージェントの導入は「24時間休まず全ファイルを網羅的に参照する新入社員が1000人同時に入社したのと同じことだ」と代田氏は例える。
人間であれば気付かないような深い階層にある機密ファイルであっても、寝ることも休むこともしないAIエージェントはアクセス権さえあれば瞬時に探し出し、回答に含めてしまう。かつては情報の「探しにくさ」によって偶発的に守られていた機密が、AIエージェントの検索・推論能力によって白日の下にさらされる「内部漏えい」のリスクは高まっている。
出口対策の限界と新概念「DSPM」による可視化
安全な活用のために代田氏が提唱するのが、データマネジメント、データガバナンス、データセキュリティを連携させる「三位一体」のアプローチだ。特に、従来のDLP（データ流出防止）だけでは不十分であると強調する。
DLPはあくまで出口での検知・ブロックを主眼とするため、クラウド内に散在するデータそのものを把握することは困難だ。そこで重要になるのが、新概念である「DSPM」（データセキュリティ態勢管理）である。DSPMは、ファイルサーバや各種クラウド、AIサービス上のどこに重要データがあるかを自動スキャンし、常時監視するソリューションだ。
代田氏は「守るべきデータがどこにあるか分からなければ、セキュリティ対策は機能しない。出口を止めるDLPと、環境内を可視化するDSPMの両輪をそろえることが不可欠だ」と説明した。
安全な活用に向けた「5ステップロードマップ」
具体的な実装策として、代田氏は5つのステップからなるロードマップを提示する。
ステップ1．データの可視化と棚卸し
DSPM等のAI駆動型ツールを駆使し、シャドーデータを含む重要データの所在を特定する。情報システム部門が把握できていなかった個人情報や機密情報を可視化、棚卸しする
ステップ2．機密性の分類とラベリング
ファイルに永続的な属性情報を付与する。ファイルがどこに移動しても、そのファイルが「極秘」であるという情報が追従する。これは、RAG（検索拡張生成）インデックスから機密情報を機械的に除外するための基盤となる。
ステップ3．動的アクセス制御の徹底
「極秘」であるという情報に基づき、機密ファイルをAIの読み込み対象から除外するなどの「アクセス制御」を徹底する。機密ファイルへのアクセスは、「プロジェクト期間中」「安全なネットワーク」といった特定の条件、環境下でのみ許可される。さらに過去に発生した不要なアクセス権を無効化する。
ステップ4．マスキングの自動化
ユーザーとAIの間にゲートウェイを配置し、個人情報などをリアルタイムで「マスキング」「匿名化」する。
ステップ5．DLPと電子透かし
防御の隙間を徹底的につぶす。「生成AIツールに機密情報をアップロードする」「機密情報を右クリックでコピー＆ペーストして持ち出す」「ブラウザをスマートフォンで撮影する」といった情報漏えいを心理的に防ぐための手段として、代田氏は、「セッションウオーターマーク」（電子透かし）紹介する。これは、画面全体に従業員IDや氏名といった個人を同定できる情報を半透明で表示し、スマートフォンでの撮影やスクリーンショットといったデータの盗難を抑止するものだ。
代田氏は、セキュリティはビジネスの足を引っ張るものではなく「高性能なブレーキ」であると総括する。「世界最高峰のブレーキがついていると確信することで、強力なアクセルを踏み切ることが可能になる。セキュリティこそが、他社よりも強くビジネスをフルスロットルで稼働させるためのハンドルである」と述べ、講演を締めくくった。
※本稿は、2026年5月に開催された「ITmedia Security Week 2026 春」のセッション「AI活用を支えるデータセキュリティ・データガバナンスとは〜いまこそ取り組むべき柔軟かつ強固なデータ統制の作り方〜」の内容を記事化したものです。
Copyright © ITmedia, Inc. All Rights Reserved.
