AIエージェントが「勝手にデータ削除」する日 情シスが負うべき“暴走の代償”：Veeam「Agent Commander」が示すAIガバナンスの正体

自律的に動くAIエージェントの導入は、効率化の劇薬か、あるいは制御不能なリスクか。設定一つで機密情報を拡散し、データを書き換える「AIの暴走」に対し、情シスが持つべき“最後の武器”を解説する。

[Erin Sullivan，TechTarget]

　「生成AIをどう使いこなすか」というフェーズは終わり、いまや「自律的に動くAIエージェントをどう制御するか」という、より深刻な課題が情報システム部門（情シス）に突きつけられている。

　OpenAIの「Operator」やAnthropicの「Computer Use」に代表されるように、AIはもはやチャット欄で回答するだけの存在ではない。人間に代わってブラウザを操作し、ファイルを編集し、APIを叩いて外部システムと連携する「行動するAI」へと進化を遂げた。だが、その「機械の速度」で行われる自律的な行動が、もし設定ミスや権限の過剰付与によって「誤った方向」へ向いたとしたらどうなるか。

　「気付いたときには、数万件の顧客データが削除されていた」「社外秘の経営資料が、AIの手によって全社員が閲覧可能なフォルダへ移動されていた」――。これらは決して大げさな予言ではない。AIエージェントがもたらすのは、これまでのヒューマンエラーとは比較にならないスピードと規模で発生する「デジタルの惨事」である。

　こうした中、バックアップベンダーの最大手Veeam Software（以下、Veeam）が2026年2月24日、AIエージェントのリスク管理に特化した新ソリューション「Agent Commander」を発表した。なぜ、バックアップの会社がAIの管理に乗り出したのか。そこには、情シスが経営層に対して説明責任を果たすための「決定的なロジック」が隠されている。

AIの暴走を「なかったこと」にする、“外科的ロールバック”

併せて読みたいお薦め記事

AI活用の関連記事

• AIエージェント貧乏にはならない　コストを抑える7つのルール
• 生成AIプロジェクトは「95％失敗」する　ROIを得るための3つのステップ

　企業におけるAIエージェントの導入と活用は重要な取り組みとなっている。一方、調査会社IDCのジョニー・ユー氏（アナリスト）によれば、AIエージェントは同じ速度で誤りを拡散させる可能性がある。同氏はこの可能性について、「AIエージェントの自律性の悪用を防ぐためのガードレールを組織は整備すべきだ」と指摘する。

　ユー氏は、大規模なAIエージェント導入における最大の障壁の1つが安全なデータ利用だと指摘する。AIエージェントの活用を拡大する企業は、個人を特定できる情報や営業秘密などの機密データにエージェントがアクセスできないよう留意する必要がある。特に、AIエージェントに過剰な権限を付与するなどの設定ミスは重大なリスクだ。

Agent Commanderとは何か？

　Agent Commanderは、Microsoft 365向けバックアップサービス「Veeam Data Cloud」の一部として、2026年3月末にプライベートプレビューを開始する予定だ。リスクの検知、システムの保護、操作の取り消しという機能で潜在的なリスクに対抗する。

• リスクの検知
  • 文脈を踏まえたシャドーAIや機密データの露出、危険なエージェントの挙動を特定する。
• システムの保護
  • 環境全体にわたりリアルタイムで詳細な制御を強制する。
• 操作の取り消し
  • AIエージェントが誤って削除や変更を行ったデータを、文脈に応じて正確に復元する。

　背景にあるのは、AIエージェントの特徴だ。AIエージェントは人間の指示を待たず、自律的に判断し、機械の速度で行動する。そのため、一度の設定ミスや過剰な権限付与が、瞬時に大きな影響を及ぼす可能性がある。

　Veeamのプロダクト戦略担当バイスプレジデントであるリック・バノーバー氏は、「これらの機能は、顧客がより安心してAIエージェント施策を推進するために設計した」と説明する。

Agent Commanderでできることは

　Veeamは2025年10月、セキュリティベンダーSecuriti AIを17億ドルで買収した。Agent Commanderは、Securiti AIの技術を活用したサービスだ。

　バノーバー氏によれば、Agent Commanderの中核となるのはSecuriti AIの「Data Command Graph」だ。AIを活用したリアルタイムのインテリジェンスエンジンで、本番データやバックアップデータを含む複数環境にまたがる組織のデータをマッピングする。

　これにより、Agent Commanderは次の3つを実現する。

• AIリスクを“文脈付き”で検知する
  • シャドーAIの検出
  • AIエージェントによる機密データや個人情報へのアクセス把握
  • 危険な振る舞いをするAIエージェントの特定
• AIエージェントをリアルタイムに制御する
  • データ、ID、AIエージェント単位での細かなポリシー制御
  • クラウドやモデル提供者に依存しない制御
  • 人手を介さずに適用される自律的なガードレール
• AIエージェントが生じさせた不要な動作を正確に元に戻す
  • コンテキスト認識型の「外科的ロールバック」で、不要なAI動作を即時に巻き戻す。システム全体を戻すことなく、影響を受けたデータだけを正確に復元できる。

VeeamがAgent Commanderをリリースした理由

　AIエージェントのリスクは、「セキュリティの問題」であると同時に「データ復旧の問題」でもある。「誰が、どのデータにアクセスしたのか」「その結果、どのデータがどう変わったのか」「どこまで戻せば業務が成立するのか」。これを理解し、実際に元に戻せる立場にあるのは、データの履歴と関係性を握っているバックアップやデータ保護基盤だ。

　Veeamは、AIリスクとデータリスクは、もはや同じ問題になったという前提に立ち、バックアップを「最後の砦」ではなく「AIを安全に動かすための制御基盤」へ進化させようとしている。Agent Commanderは、その象徴的な動きだ。

　Agent Commanderは、AIエージェントが前提の環境で「データとAIをどう信頼するか」「その責任を誰が持つのか」という問いに対し、「バックアップとAIガバナンスの掛け合わせ」という新しい答えを提示した製品だ。

Agent Commander利用時の主な注意点

• AIエージェントの設計そのものの欠陥や目的の誤りを自動修正するものではない。
• 巻き戻しを前提とした運用をしない。
• シャドーAIは検出ができるのみだ。検出時を想定したルール作りが肝要だ。
• 現時点では、Agent CommanderはVeeam Data Cloud for Microsoft 365の一部として提供される。

今後の展望

　ユー氏によれば、Agent Commanderをはじめとした専用ツール以外にもAIエージェントのリスクを抑制する方法はある。ただし、その効果は限定的だという。「こうしたツールを持たない組織は、単にAIエージェントにリスクの高い操作をさせないことでリスクを下げている」（同氏）

　例えば、AIエージェントのデータセットへのアクセスを制限したり、重要な操作を人間の承認なしには実行できないようにしたりする方法がある。ユー氏は「その結果、AIエージェントが機械速度で正確かつ一貫して行動するという本来の可能性、ひいては目的を制限してしまう」と指摘する。

　ユー氏によれば、AIエージェントの活用は、AIエージェントに業務を任せることと企業データを保護することの微妙なバランスの上に成り立つ。Agent Commanderはその方向への一歩だという。