PwCとトレンドマイクロが警鐘
日本は導入も統制も“最低水準”? AIエージェントの弱点の防御策
自律的に行動するAIエージェントの普及が進む一方、新たなサイバーリスクが浮き彫りとなっている。トレンドマイクロの検証で明らかになった、AIが意図せず機密情報を漏えいさせてしまう手口と、その対策とは。
企業の活用は、単なる作業補助から、AIエージェントによる自律的な業務の遂行へと移行しつつある。人の指示を待たずに外部システムと連携して処理を進めるAIエージェントは、業務効率化や事業変革に大きな成果をもたらす一方で、従来のAIツールとは異なる新たなサイバーリスクを生み出している。
こうした背景を受け、総合専門サービスファームであるPwC Japanグループ傘下のPwCコンサルティングと、セキュリティベンダーのトレンドマイクロは共同レポート「自律するAIの時代:AIエージェントのサイバーリスクと実践的ガバナンス」を公開した。同レポートは、AIエージェントがシステムに組み込まれることで生じる脅威構造を分析し、企業が講じるべきガバナンスの枠組みを提示している。
共同レポートは、PwC Japanグループが実施した「生成AIに関する実態調査2026 春 6カ国比較」を参照している。この調査は2026年2~3月、売上高500億円以上の企業の課長職2112人(うち日本企業所属932人)に実施されたものだ。それによると、成果を上げる企業ほどAIエージェントの導入率が高い傾向がある。しかし、国内企業では活用や統合管理システムの整備で後れを取っているのが現状だ。
実証実験で露呈したAIエージェントの構造的な脆弱(ぜいじゃく)性と、日本企業が直面する統制の課題とは何か。
日本のAIガバナンスは周回遅れ
実態調査からは、日本企業におけるガバナンス体制の遅れが数値として浮き彫りになっている。AIエージェントを「導入済み」または「導入を進めている」と回答した企業の割合は、米国が59%、英国が55%、中国が48%、ドイツが37%、韓国が36%であるのに対し、日本は33%と最低水準にとどまる。AIガバナンスのための中央組織を整備している企業も、米国が63%、英国が54%、中国が42%、ドイツが35%、韓国が33%に達する一方、日本は23%にとどまっている。
一方で、AIエージェントの導入は効果創出に直結している。生成AI活用の効果が「期待を大きく上回る」と回答した企業におけるAIエージェントの導入率は、英国で83%、中国で80%、米国で77%、日本で72%、韓国で69%、ドイツで67%に達する。これに対し、効果が「期待未満」にとどまる企業での導入率は17~31%に過ぎない。つまり、AIエージェントを安全に活用できる体制を整えることが、企業の競争力を左右する分岐点になっている。
ガバナンスの整備が急務となる中、トレンドマイクロの法人向けブランド「TrendAI」は、現実的な業務システムを想定した検証環境を構築し、攻撃の実現性を検証した。Anthropic、OpenAI、Google、DeepSeekの主要4ベンダーが提供する13のAIモデルに対し、自動生成した200種類の攻撃用プロンプトを用いて合計2600件の並列テストを実施した。
検証の結果、特定のAIモデルやベンダーに依存せず、複数のAIモデルで攻撃が成立することが確認された。実証された手法の一つが「保存型プロンプトインジェクション」だ。攻撃者がWebフォームを通じて不正な命令を業務データに混入させ、それをAIエージェントが後から読み込むことで意図しない処理を実行させる攻撃だ。
顧客からの問い合わせを処理するシステムにおいて、攻撃者が不正な命令を埋め込んだ問い合わせを送信した場合、AIエージェントがそれを読み取ると、命令に従ってデータベースを連鎖的に呼び出し、認証トークンなどの機密情報を外部に持ち出してしまう。本人確認(KYC:Know Your Customer)システムにおいても、アップロードされたパスポート画像内の指示を誤認識し、他人の個人情報を抽出して漏えいさせる事例が確認された。
こうした攻撃が成立する根本的な要因は、2026年時点での言語モデルが入力された「データ」と処理すべき「命令」を厳密に区別できない点にある。AIエージェントに付与されたデータベースへの高いアクセス権限と、自律的なツール呼び出しの連鎖が悪用されることで、システム全体の脅威に発展する。
共同レポートは、こうした構造的リスクに対処するためのフレームワークとして「AI統制保証水準」(AI-CAL)を提示している。AIエージェントの自律性を5段階に分け、それに応じて求められる統制要件を定義するものだ。
不確実性が高い状況下で企業が優先して着手すべきアクションとして、PwCコンサルティングとトレンドマイクロは「権限管理の確立」「観測性、制御性のインフラ整備」「AI-CAL評価プロセスの制度化」の3領域を挙げている。タスク実行に必要な最小限の権限付与や重要処理における承認ゲートの設置に加え、AIの思考やツール実行のプロセスを追跡できる観測性の確保が不可欠だ。異常を検出した際には、部分的な機能制限や処理の全面停止を直ちに実行できる仕組みを組み込むことが求められる。
AIエージェントの活用は今後さらに本格化すると見込まれる。企業は利便性の追求にとどまらず、自律性と接続性に見合った段階的なガバナンス体制を、システム設計の初期段階から組み込むことが重要だ。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget ニュースプラス
国内のIT業界ニュースを迅速に報道します。企業動向から導入事例、市場トレンドまで幅広く取り上げ、実務に直結する情報をタイムリーに提供する連載です。
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社ビザスク] 製造業の新事業創出 成功の鍵は「タラレバ問題克服」と「3つの判断ポイント」 -
製品資料
[日本シーゲイト株式会社] 実験のやり直しを防止 研究データ基盤に求められる高可用性ストレージとは -
製品資料
[株式会社Leaner Technologies] もっと安く買えるのに…… 間接材購買で“コスト削減機会”を逃さないためには -
製品資料
[株式会社セールスフォース・ジャパン] フィールドサービスの熟練技術者が「AIエージェント」を求めている理由 -
製品資料
[株式会社グリーンフィールド・オーバーシーズ・アシスタンス] 基礎から分かる「就労ビザ」 アメリカ進出を目指すなら知っておきたい取得戦略
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
脱VMwareか、継続か? 仮想化ソフト主要6製品の機能とスペックを徹底比較
-
2
AIが本番環境を削除し復旧に13時間 「暴走」ではなかったAWS事例
-
3
レガシー基幹システムをSAPに統合 山善が突き止めた「標準化と個別最適」の境界線
-
4
「HDD終了」は本当か 巨大クラウド2社が下した大容量フラッシュへの決断
-
5
IT人材の42%が転職予備軍 辞めさせない組織の4つの共通
-
6
年収700万超エンジニアに共通するスキルと「もっと勉強すべきだった分野」
-
7
「Excel至上主義」と“謎マクロ”の限界 属人化リスクを断つ業務移行の勘所
-
8
「WSUS」終了の時限爆弾 “本命”移行先ツールとMicrosoft提唱の新管理手法
-
9
Microsoft 365の知られざる5つの裏口 パスワードを変えても攻撃者は消えない
-
10
DX導入企業の3割超がむしろ「負担増」 9割が陥る“内製化のわな”
ホワイトペーパーランキング PR
-
1
登録セキスぺが語る「SCS評価制度」の舞台裏 星を取得すべき理由と対応のコツ
-
2
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは?
-
3
月1000枚の紙を削減 9年動けなかった組織が、業務改革のその先に得たもの
-
4
OSSでは困難 100超のサービスを持つマネーフォワードが実践した統合監視術
-
5
ネットワーク遅延の原因、「パケットロス」の基礎知識と効果的な解決策
-
6
「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略
-
7
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
-
8
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
9
「人員を増やす」という選択肢はない 情シスが負の連鎖から抜け出すには?
-
10
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー