質問に答えるだけのAIチャットbotから、自律的にシステムを操作するAIエージェント」の移行が進んでいる。その効果が期待される一方、ひとたび暴走すれば一瞬で被害が拡大する恐れがある。新たな脅威への対策とは。
企業におけるAI技術の活用は、質問に答える受動的なチャットbotから、システムにアクセスし、自律的にタスクを遂行する「AIエージェント」に移行しつつある。
AIエージェントは休むことなく稼働する優秀な「デジタル同僚」として期待を集めている。そうした背景から企業はAIエージェントの試験導入を進めているものの、実際に本番環境への移行に至っているケースはごく一部にとどまっている。この大きなギャップの背景には、未解決のセキュリティ課題が存在する。
AIチャットbotが引き起こす最悪の事態は「間違った答えを返す」ことだった。一方でAIエージェントの最悪の事態は「間違った行動をとる」ことだ。AIエージェントは指示を文字通りに解釈し、結果を恐れずに行動するため、時には取り返しのつかない事態を引き起こす。
かつての「間違った回答」とは次元の異なるリスクに対し、企業はどのように自社のシステムとデータを守ればよいのか。
2026年3月に開催されたセキュリティイベント「RSA Conference 2026」において、Cisco Systemsのプレジデント兼最高製品責任者であるジーツ・パテル氏が登壇した。セッション「Reimagining Security for the Agentic Workforce」の中で、パテル氏はAIエージェント特有のリスクと、それに対する3つの防御アプローチを提示した。
AIエージェントの誤行動は、既に現実の脅威となっている。社外での会議を計画するようAIエージェントに指示した場合、システム連携を通じて勝手に高額なホテルを予約したり、機密情報が含まれる社内チャットに外部業者を招待してしまったりする可能性がある。悪意がなくても、行動の権限を持つことで重大なインシデントを引き起こしかねない。
こうしたリスクを軽減し、AIエージェントを安全に運用するために、パテル氏は以下の3つの領域での対策を提唱する。
AIエージェントは、悪意のある外部システムからの攻撃にさらされる可能性がある。特に、攻撃者が悪意のあるプロンプト（指示）でAIモデルを操作する「プロンプトインジェクション」のように、読み込んだデータの中に隠された悪意ある命令を実行してしまうリスクへの対策が急務となる。
これに対し、開発段階からAIエージェントの脆弱（ぜいじゃく）性をテストするツールや、実行時にセキュリティポリシーを適用する仕組みが必要になる。AIエージェントが実行しようとするスキルや、接続先のサーバに悪意のある挙動が含まれていないかを自動でスキャンする枠組みを構築することが求められる。Cisco Systemsは、オープンソースのセキュリティフレームワーク「DefenseClaw」を通じて、これらのスキャンを自動化する手段を提供している。
AIエージェントにシステムへのアクセスを許可する際、従来の人間向けのアクセス制御だけでは不十分だ。人間の従業員を迎え入れる際と同様に、AIエージェントにも明確なIDを付与し、権限の範囲を定義し、責任を負う人間の管理者を割り当てる必要がある。
AIエージェントには「必要なときに」「必要な分」「必要な期間」だけ権限を付与するアプローチが不可欠だ。AIエージェントが不審な挙動を見せた場合には、リアルタイムでコンテキストを判断し、行動をブロックする動的な制御が求められる。
AIエージェントは24時間休むことなく、自律的に行動する。そのため、AIエージェントが乗っ取られたり暴走したりした場合、被害の拡大も秒単位で進行する。これまでの人間による監視を前提としたSOC（セキュリティオペレーションセンター）では、このスピードに対抗できない。
これに対抗するには、防御側もAIエージェントを活用し、膨大なログやアラートを自律的に調査分析するSOCへと移行する必要がある。定型的な脅威への対処を瞬時に実行させることで、IT担当者は高度な意思決定に集中できるようになる。
セキュリティは、新技術の導入を遅らせる足かせと見なされがちだった。しかし、自律的に行動するAIシステムにおいては、信頼できるセキュリティシステムこそが、エージェントを本番環境で展開し、その真の価値を引き出すための推進力となる。
本稿は、RSACが2026年3月24日に公開した動画「Reimagining Security for the Agentic Workforce」を基に作成しました。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓
MFA（多要素認証）を入れたから安心という常識が崩れ去っている。フィッシング集団「Tycoon2FA」が摘発されたが、脅威が完全になくなったというわけではない。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年5月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
ITmediaはアイティメディア株式会社の登録商標です。
