“自律するAI”にどこまで権限を渡すのか 「任せる範囲」を賢く決める方法：AIエージェント活用で守るべき3つのルール

AIエージェントがインフラ運用やコンタクトセンター業務に組み込まれ始めている。だが、丸ごと任せるのか、一部だけ任せるのかで、リスクと効果は大きく変わる。海外と国内の動向を基に「任せる範囲」の最適解を探る。

[TechTargetジャパン]

　生成AI（AI：人工知能）の“次の波”として注目されているのが「AIエージェント」だ。チャットbotのように質問に答えるだけではなく、監視や問い合わせ対応といった業務プロセスの中に入り込み、状況を判断して行動まで担う存在だ。

　2025年秋には、こうしたAIエージェントを前提とするニュースリリースが相次いだ。BigPandaは、インシデント対処の自動化技術を手掛けるVelocityの買収を発表し、「Agentic IT Operations」（エージェント型IT運用）を掲げた。Cisco Systemsは、「Splunk Observability」に「エージェンティックAI」を組み込み、テレメトリーからインシデント対処までをAIエージェントで支援する構想を示した。国内ではNTTデータが、AIエージェントを中核に据えたカスタマーサポート業務支援サービス「LITRON Customer Engagement」の提供を予告している。

　これらの発表を「個別製品のニュース」として眺めるだけでは見えにくいが、共通点を拾い上げると、AIエージェントに任せようとしている仕事のパターンが浮かび上がる。

AIエージェントに任せたいのは「ルール化しやすく即時性が必要な仕事」

併せて読みたいお薦め記事

本格化するAIエージェント活用

• 「生成AI」と「AIエージェント」の“決定的”な違いとは？　両者の特徴を比較
• AIエージェントが想像以上に普及し始めた？　遅れる“非人間ID”対策

　運用、監視という視点では「大量のアラートをふるいにかける」「異常箇所を特定する」といった情報整理の仕事が、AIエージェントの有力なターゲットになっている。BigPandaは、インシデント検知から原因特定、一次対応までをAIエージェントで自動化するビジョンを打ち出している。Cisco SystemsとSplunkも、さまざまな環境からのテレメトリーを統合し、ビジネスへの影響度を踏まえた優先度付けや対応提案までをAIエージェントに任せる方向性を示している。

　コンタクトセンター業界では、定型的な問い合わせや、その後の事務処理がAIエージェントの対象になりつつある。NTTデータのLITRON Customer Engagementは、AIエージェントをオペレーションの中核に据え、従来のオペレーターが担っていた一部の対応や後続処理を自動化し、空いたリソースを高付加価値業務に振り向ける構想を掲げている。

　これらを抽象化すると、AIエージェントに任せたい仕事には共通点がある。

• ある程度ルールやパターンが整理できる
• 即時性が求められ、人手では追い付かない
• 人がやると作業負荷（ストレス）やコストが大きい

　こうした領域から、AIエージェント化が進み始めていると考えられる。

それでも「丸ごと任せられない」3つの理由

　一方で、AIエージェントを業務に組み込んだからといって、全てを任せきりにできるわけではない。各社の発表内容からは、少なくとも次の3つの課題が見えてくる。

　1つ目は「権限設計の難しさ」 だ。運用を担うAIエージェントが誤検知に基づいてサービスを停止してしまった場合、それを利用する企業のビジネスそのものにも大きな影響を及ぼす可能性がある。どの範囲の操作を自動実行してよいのか、どのタイミングで人の承認を求めるのかといった線引きは、企業ごとに慎重に決める必要がある。

　2つ目は「説明責任と監査の問題」だ。インシデント対処や顧客対応にAIエージェントが関与するなら、「いつ、誰（どのエージェント）が、どの判断で行動したのか」を後から追えるようにしなければならない。BigPandaやCisco Systemsのように、インシデントのライフサイクル全体にエージェントを介在させる場合ほど、ログやロール設計の重要性は増すと考えられる。

　3つ目は「人のスキルシフト」だ。NTTデータは、 LITRON Customer Engagementを提供する背景として、AIエージェントの適用範囲拡大と並行して、組織体制や従業員のスキルシフトも進める必要性を明示している。これは従来の「処理担当」としてのスキルだけではなく、AIエージェントの設計や振る舞いを監督するスキルが今後求められることを示している。

日本企業にとっての現実的なステップ

　では、日本企業はどのようにAIエージェントを取り入れていくべきだろうか。いきなり海外事例のような自動化のレベルを目指すのではなく、段階的にアプローチするのが現実的だろう。

　最初の段階では、AIエージェントは「提案、要約」のみに使い、最終的な実行は人が担う。監視運用であれば、アラートの絞り込みや優先度付けをAIエージェントに任せつつ、実際の対処はオペレーターやSRE（Site Reliability Engineering）が決める、といった形だ。

　次の段階では、影響範囲が限定的で、復元（ロールバック）しやすい操作に限って自動実行を許可するのがいいだろう。例えば、一部のログ収集やメトリクスの再取得、明らかに不要なアラートのクローズなどだ。

　最終的には、NTTデータのLITRON Customer Engagementが想定するように、業務プロセスや組織、KPIまでを「AIエージェント前提」で再設計する段階に進む。ここまで進めば、AIエージェントを「業務そのものを支える基盤」として運用できるはずだ。

　重要なのは、「AIエージェントを入れるかどうか」ではなく、「どの仕事を、どこまで任せるのか」「どこで人が関わるのか」「責任と証跡をどう設計するのか」を先に決められるかどうかだ。海外ベンダーや国内SIer（システムインテグレーター）の最新動向は、AIエージェント時代に向けて、そうした設計の必要性を改めて突き付けている。