Copilotで満足している企業が知らない　AIエージェント実運用の現実：AIを“ガラクタ”にしないための条件

自動化のためにAIエージェントを導入しても、なぜ期待した成果が出ないのか。その原因は設計以外の段階にある可能性がある。AI活用を支援してきた専門家が警告する、AIを“ガラクタ”にしないための条件とは。

≫ 2026年04月17日 05時00分公開

[Tim Murphy，TechTarget]

AIエージェントは「作ってからが本番」？

併せて読みたいお薦め記事

AI活用はなぜ失敗するのか

――　Info-Tech Research Groupでのあなたの役割はどのようなものですか。

ブフィ氏　私は2013年からロボット工学や金融、医療、製造など、幅広い分野でAI技術に携わってきた。その知見を生かし、Info-Tech Research Groupに入社した。顧客のアイデアをワークフローに落とし込み、「エージェント化」して業務に導入するためのプロトタイプ開発を担っている。

――　AIエージェントの導入には、どのような傾向が表れていますか。

ブフィ氏　2025年11月に登場した、PCの操作を自動化する「OpenClaw」などの新しいツールが注目されている。しかし、私が重視するのは企業向けの用途だ。そこでは、AIの暴走を防ぐガードレール（安全策）や厳格な評価体制が欠かせない。私たちがプロトタイプを構築する際は、企業全体での導入を考慮して用途を特定し、自律的に実行できるエージェントを構築しなければならない。

　2026年4月の時点では人事の採用手続きや財務、在庫分析などの分野でAIエージェントの導入が進んでいる。これらの分野でのワークフローは手順が複雑だが、決まったルールに従って繰り返される業務であるため、AIエージェントはその役割を担うのに適している。

　私たちは、派手さはないが不可欠なバックエンド業務に着目している。複数のシステムからデータを集約し、文脈を読み解きながら進める長時間の作業だ。これらを実現するために、複数のAIエージェントが連携するマルチエージェント構成を主に採用している。

　開発において、何かを構築する作業は全体の半分に過ぎない。残りの半分は運用管理であり、ここをおろそかにするとプロジェクトは失敗してしまう。私たちは、継続的に動作を確認するための評価の仕組みを必ず組み込むようにしている。

――　どのような業務がAIエージェントによる自動化に適していますか。

ブフィ氏　代表的なものは請求書管理やITSMだ。大量に届く問い合わせ内容をAIエージェントが分類し、優先順位を付ける。システムの状態を確認して、よくあるトラブルを自律的に解決することも可能だ。

　財務分析での活躍も期待できる。例えば、財務提案のレビューや民間融資のリスク評価などは従来、複数のチームが数カ月かけて報告書を作成していた。これをAIエージェントに任せることで、人間が最終確認をする体制を保ちつつ、期間をわずか1週間に短縮できた事例がある。

　今日のAIエージェントは、特定の業界に特化するのではなく、金融や製造、医療など、あらゆる業界に共通する人事やITSM、請求書処理といった横断的な業務で広く活用されている。

――　AIエージェント向けのワークフローを設計する際、CIOはどのような課題に直面しますか。

ブフィ氏　1つ目は、業務プロセスそのものの標準化だ。たいていの企業では、プロセスが標準化されておらず、担当者ごとにやり方が異なる。明確なフローが決まっていない業務を自動化することは非常に困難だ。

　2つ目は、単一のAIエージェントで全てをこなそうとする誤解だ。私たちの経験から言うと、複雑な業務を1つのAIエージェントだけで解決できた例はない。複数のAIエージェントを協調させる「マルチエージェント構成」が、実運用を成功させる鍵となる。

　マルチエージェント構成では、AIエージェント同士の連携を制御するオーケストレーションの設計が重要だ。自動化する業務の性質に応じて、AIエージェントを順番に動かすのか、並列で動かすのかを見極める必要がある。

――　AIエージェントを大規模に導入する場合の課題を教えてください。

ブフィ氏　1つ目は費用の最適化だ。全てのステップで高性能なAIモデルを使う必要はない。処理能力と効率のバランスを見極め、ワークフロー全体で「FinOps」（クラウド費用の最適化手法）を管理する必要がある。

　2つ目は安全性の確保だ。AIエージェントが勝手にデータを削除したり、不適切な回答を生成したりしないよう、AIエージェント専用の保護機能を設ける必要がある。

　3つ目は継続的な評価だ。数々のCIOが「AIエージェントを導入した」と語るが、その性能を測定する仕組みを持っていない。これは危険信号だ。評価できる仕組みがなければ、AIエージェントが以前よりも改善されているかどうか、不具合が生じていないかどうかを確認する方法がないからだ。

　4つ目は導入の容易さをうたうツールと現実のギャップだ。設定だけで済む簡易的なAIエージェントでは、複雑な業務の自動化は難しい。実運用に耐え得るAIエージェントを作るには、プログラミングによる緻密な設計が不可欠だ。

――　企業がAIエージェントを実装する際、具体的に何が必要ですか。

ブフィ氏　徹底したカスタマイズが求められる。企業ごとにERP（統合基幹業務システム）やデータ形式、プロセスが異なるため、そのまま使える既製品のAIエージェントは存在しない。オンボーディング（新人の受け入れ）やITSMなどの一般的な業務用のAIエージェントは構築できる場合があるが、たいていは汎用（はんよう）的なAIモデルをベースに、自社の運用ルールを学習させる調整が必要になる。

　信頼性の向上も課題だ。大規模言語モデル（LLM）は本質的に、同じ質問に対して異なる答えを返すが、ビジネス用途では許容されない。明確なルールを与えて、AIモデルのハルシネーション（幻覚）を減らすことが不可欠だ。

　「Python」などのプログラミング言語を使用すると、ガードレールの構築から性能評価まで、AIエージェントが関わる全工程を自社のニーズに合わせてカスタマイズできる。

――　AIエージェントのガバナンス構築には何が含まれますか。

ブフィ氏　考慮すべきことは複数ある。1つ目はガードレールだ。これは悪意のある操作や誤作動を防ぐ対策になる。

　2つ目は運用効率とFinOpsに関するガバナンスだ。ワークフローごとに複数のAIエージェントを実行している場合は、それらがツールを過剰に使用したり、不必要に失敗したりしていないかどうかを確認する必要がある。

　3つ目は出力結果の品質だ。リアルタイムの監視だけではなく、処理済みのデータを事後的に検証し、AIエージェントが正しく判断したかどうかを確認する体制が重要だ。この性能評価の仕組みがなければ、実質的なガバナンスは機能しない。例えば、エージェントがバッチ処理されたチケットをどのように処理したか、それを正しく処理したかどうかを確認する。

　4つ目はアクセス管理だ。AIエージェントに無制限のアクセス権限を与えるのではなく、範囲を限定する。例えば「データベースの閲覧はできるが、データ削除は禁止する」といった具合だ。アクションを常に監視できるシステム構成で運用し、問題があれば即座に元の状態に戻せる（ロールバック）体制も整えておくべきだ。

　最終的には、AIモデルの推論プロセスやツールの使用履歴を完全に追跡できる、可視性の高い仕組み（オブザーバビリティー）が必要になるだろう。

――　業界や企業の規模によって、導入アプローチに違いはありますか。

ブフィ氏　開発チームを自前で持たない企業は、「Microsoft Copilot」などの既製ツールを購入することになる。しかし既製品はあくまで補助的な役割にとどまるため、複雑な業務をこなすには限界がある。

　より高い成果を目指す企業は、独自のシステム構成を採用することになる。そのためには、AIエージェント開発ツール「Microsoft Foundry」（旧「Azure AI Foundry」）などのツールを使用することに加え、専門の自動化チームの設立や人材のリスキリング（再教育）が必要だ。これらを通じてAIエージェントを使いこなす体制を整えることになる。正しく取り組めば投資利益率は極めて高いが、そこに至る難易度も高い。

――　AIエージェントの導入を検討しているCIOへのアドバイスをお願いします。

ブフィ氏　第1に、ワークフローを標準化することだ。明日から新しい担当者がマニュアル通りに動けるレベルまで、プロセスを明確にしてほしい。

　第2に、ビジネス価値を理解することだ。CIOは「なぜAIを使うのか」を定義しないまま、自動化を急ぐ傾向がある。問い合わせ件数や業務の滞り、基準となる現時点のパフォーマンスといった基礎データがなければ、AIエージェント導入による改善効果を客観的に証明することは難しい。

　第3に、重要業績評価指標（KPI）を事前に設定することだ。解決すべき問題を明確にし、非効率な部分を数値で捉えた上で、どの指標を向上させたいのかを確定させる必要がある。こうした準備なしに、現状とAIエージェント主導のプロセスを比較し、その成果を評価することは不可能だ。

――　今後、企業ITにおけるAIエージェントの役割はどのように変わると考えますか。

ブフィ氏　開発ツールの成熟に伴い、何が有効で何が役に立たないのかという知見が蓄積される。小規模なワークフローであれば、市民開発者（非IT部門の従業員）によるAIエージェントの開発も一部で続くはずだ。しかし、企業のITリーダーは、複雑かつ長期にわたって稼働するシステムを構築、管理するには、「やはり専門チームが不可欠だ」ということに気付くだろう。

　人間が最終的な判断や監督を担い続ける体制（HITL：Human-in-the-Loop）は、今後も変わらないと考えている。現場の責任者はAIエージェントに置き換わるのではなく、AIエージェントを導き、管理する役割に移行する。AIプロジェクトは一度構築すれば終わりではなく、構築は始まりに過ぎない。

　さまざまな企業がITチームのスキルアップを図り、業務をAIエージェントで自動化し、時間をかけて継続的に改善しようとしている。これは、AIエージェントの開発チームが事業部門と密接に連携する新しい協業モデルだ。このパートナーシップを解消する現実的な方法はなく、AIエージェントの運用は開発チームと事業部門の「共同責任」になる。この協力関係こそが、これからの企業ITの核心になると見込んでいる。

TechTargetジャパントップエンタープライズAI