「セマンティックピボット」の衝撃
従来のIAMが通用しない 自律型AIが招く「静かなセキュリティ崩壊」をどう止めるか
多くの企業で、AIエージェントなどの「非人間アイデンティティー」が社員数を上回りつつある。だが、従来の権限管理（IAM）では、正当な権限を悪用して目的外のデータに触れる「セマンティックピボット」を防げない。法規制が強まる中、情シスに求められるのは「誰が」ではなく「なぜ」を制御する新時代のガバナンスだ。
セキュリティ境界としてのアイデンティティーは、もはや従業員だけで定義されるものではない。従業員に代わって行動するあらゆる要素によって定義されるようになっている。その多くには名札も、直属の管理者も、退職プロセスも存在しない。
大半の大企業では、非人間アイデンティティー（NHI）の数が既に人間のユーザー数を上回っている。「エージェント型AI」の登場は、この課題を単に拡大させるだけでなく、その本質を根本から変えようとしている。
エージェントとは、自律的な推論能力を持つ実体だ。システムの照会や意思決定、重大なアクションを大規模かつ継続的に、許可を得ることなく実行できる。現在のガバナンスモデルは、こうした存在を管理するようには作られていない。情シスに求められるのは「誰が」ではなく「なぜ」を制御する新時代のガバナンスだ。
エージェント時代のアイデンティティー
従来のアイデンティティーアクセス管理（IAM）は、人間のライフサイクルを中心に設計されている。組織に加入することもなければ離れることもない実体を統制するには、ほぼ適していない。
エージェントのセキュリティ確保には、静的なアクセス権限の設定を超えたアプローチが必要だ。リアルタイムで挙動を監視し、ゼロトラストの原則を適用し、同時並行で稼働する数千もの短命なエンティティを管理できる拡張性を持ったシステムが求められる。
NHIには、個別のガバナンスが必要な2つのカテゴリーがある。第1は、人間のユーザーを拡張するエージェントだ。承認された意図の代理として、ユーザーの認証情報で動作する。より危険な第2のカテゴリーは、ワークフローに直接組み込まれるものだ。独立した権限を持ち、特定の個人が責任を負わない。
この区別が重要なのは、現在のIAMの根本的な弱点を露呈させるからだ。「誰がアクセス権を持つか」に基づくガバナンスでは、そのアイデンティティーが「何をしようとしているか（意図）」までは統制できない。
初期の導入事例では、既に失敗のパターンが現れている。例えば、取引台帳への読み取り権限と差異テーブルへの書き込み権限を持つ「勘定照合エージェント」を想定する。このエージェントが複雑なエラーに遭遇した際、推論エンジンが「富裕層の口座データと比較すれば解決できる」と結論付けたとする。
この場合、エージェントは本来の任務を超えて、顧客の資産プロファイルなどを自律的に照会し始める可能性がある。IAMモデルには権限の範囲しかなく「意図の境界」が定義されていないため、全てのAPIコールは技術的に正当なものとなる。従来のログは「何が起きたか」しか記録せず、この失敗は不可視だ。
これを「セマンティックピボット（意味的転換）」と呼ぶ。有効なアクセス権を使い、アクセス制御に違反することなく、未承認の活動へと転換する現象だ。既存ソリューションの多くは未承認ユーザーを止めるためのものであり、承認されたエージェントによるこの挙動は防げない。これは設定ミスではなく、アーキテクチャ上の欠陥である。
企業が取るべき対策
エージェント型アイデンティティーの管理には、動作の継続的な監視が必要だ。文脈に応じた動的なアクセス決定を行い、ポリシーベースのガードレールで最小権限を強制しなければならない。
ゼロトラストは活動を継続的に検証するが、それだけではセマンティックピボットの溝を埋めることはできない。自律的な推論エンジンを抑制するには、「侵害前提」の考え方をリアルタイムの封じ込めに変換する仕組みが必要だ。
具体的には、ゼロトラストと「意図拘束型認可（IBA）」を組み合わせた成熟度モデルが必要になる。要求が事前に登録された目標と一致する場合にのみアクセスを許可する手法だ。このモデルには「自律性の深淵（しんえん）」と呼ばれる、2つのレベルがある。
レベルAは「保護されたアカウント」だ。専用のサービスアカウントを使い、認証情報を隔離してログを取得する。アカウント自体は安全だが、エージェントの「代理権」までは保護されていない。
レベルBは「保護された代理権」だ。全てのAPIコールに意図のメタデータが付随し、「アクセス制御」が「意図制御」へと進化する。例えばエージェントは、宣言された意図が「照合」である場合にのみ、財務台帳へのアクセスが許容されるようになる。
サンドボックスの定義
アーキテクチャ上の溝を埋めるには、動的なガードレールが求められる。IBAが「なぜ」を統制する一方で、ガードレールは「どの程度」を統制する。これには厳格なリソース制限や、サンドボックス化が含まれる。
サンドボックス化の目的は、エージェントが「ヒューマンスポンサー」の全権限を継承することを防ぐことだ。ヒューマンスポンサーとは、エージェントの行動で法的な説明責任を負う個人を指す。実務上、エージェントの権限は、その任務を定義した暗号署名付きのマニフェストによって制限されるべきである。
法定責任としてのエージェントの行動
ヒューマンスポンサーは、法的な概念になりつつある。英国の「上級管理職・認定制度（SM＆CR）」では、エージェントによる障害に、指定された管理職が適切な監督を証明できなければ、個人的な制裁の対象となる。
欧州連合（EU）の「AI法」第14条では、高リスクAIシステムの監視責任を導入者に割り当てている。また、デジタルレジリエンス法「DORA」は、自律的サービスによる業務中断に、ICTリスク担当者に厳格な責任を課している。
ヒューマンスポンサーは、「知らなかった」という言い訳が通用しない立場だ。責任を割り当てるだけでは不十分で、監督のための技術的な理解も求められる。組織は、法的責任と実態的な監督のギャップを埋めるためのトレーニングを実施しなければならない。
ヒューマンスポンサーの育成
ヒューマンスポンサーには、推論の自律性と業務制約の境界を定義する能力が必要だ。また、単なるタスクとデータの変換の違いを理解し、リスクスコアを適切に解釈できなければならない。
レベルBでは、これが実運用に落とし込まれる。エージェントの投入前に、ヒューマンスポンサーが「意図マニフェスト」に暗号署名を行う。全てのAPIコールにはスポンサーIDが付与される。
タスク外のデータへのアクセス試行など、リスクのしきい値を超えた場合、要求はブロックされる。その上で、判断を仰ぐためにスポンサーへルーティングされる。これにより、エージェントの独断は防がれ、責任の連鎖が維持される。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社うるる] 「入札市場」攻略ガイド：効率的に落札するためのポイントを徹底解説 -
製品資料
[株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは？ -
市場調査・トレンド
[株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」 -
製品資料
[日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合／分離」を成功に導く秘訣 -
製品資料
[rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に？ ベテランエンジニアを追い込む“54歳の壁”
-
2
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
3
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
4
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
5
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
6
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
7
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
8
テレワークやBYODでリスクが拡大、デバイスの多様化を弱点としない管理方法とは
-
9
「有線LAN環境」に関するアンケート
-
10
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
3
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
4
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
5
「IT史に名を残すシステム障害」8選
-
6
SASE選定は「見極め力」で大きな差――本当に必要な製品を選ぶための6つの視点
-
7
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
10
「標的型攻撃メール」事例・サンプル集
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー