本稿は、米国で開催されたクラウドネイティブ技術のイベント「KubeCon + CloudNativeCon North America 2025」におけるセッション「Smarter Together: Orchestrating Multi-Agent AI Systems With A2A and MCP on Containers」の内容を基にしている。登壇したのは、Microsoftのシニアパートナーソリューションアーキテクトであるアナ・マリア・ロペス・モレノ氏と、システムインテグレーターSummanのデータサイエンティストであるシャロン・カマチョ氏だ。

　従来のAIシステムは、単一のAPIゲートウェイが全てのリクエストをさばく構造になりがちであり、これが単一障害点やスケーラビリティの限界を招いていた。両氏が提示した解決策は、コンテナオーケストレーションツール「Kubernetes」を活用し、各AIエージェントを独立したコンテナとして稼働させる分散型アーキテクチャだ。

　デモでは、クラウドサービスをまたいだ連携システムが示された。具体的には、Kubernetesのマネージドサービス「Azure Kubernetes Service」にオーケストレーターを展開し、旅行の計画や手配を担うAIエージェントと連携させる。同時に、Google Cloudのコンテナ実行環境「Cloud Run」でハンバーガーやピザの注文処理といった特定のタスクに特化したAIエージェント群を稼働させる仕組みだ。エンドユーザーが、Webアプリケーション開発フレームワーク「Streamlit」で構築したインタフェースからリクエストを送信すると、オーケストレーターが要求を解析し、適切なクラウドサービス内のAIエージェントにタスクを委譲する。

　稼働するAIエージェントには、データ検索を担う「データエージェント」、LLM（大規模言語モデル）を用いて推論する「推論エージェント」、APIを通じてタスクを実行する「アクションエージェント」などが想定される。このシステム構成によって、画像処理や大規模データベースへのアクセスなど特定のタスクを担うAIエージェントに負荷が集中した場合でも、そのコンテナだけを単独で自動スケールさせることが可能になり、コンピューティングリソースを最適化できる。

A2AとMCP：AI同士が意思疎通するための共通言語

　異なるクラウドサービスに点在するAIエージェント群が協調して働くためには、互いの能力を知り、状況を共有する仕組みが不可欠だ。本システムでは、そのために2つのプロトコルを活用する。

　1つ目は、AIエージェント間の直接通信を担うA2Aプロトコルだ。このプロトコルの核となるのが「エージェントカード」（Agent Card）というJSON形式のデータだ。エージェントカードには、そのAIエージェントが持つスキルや処理可能なタスクが、APIのエンドポイントのように定義されている。オーケストレーターは、提示されたエージェントカードのスキル群を読み取ることで、複雑なリクエストに対して「どのAIエージェントにタスクを任せるべきか」を動的に判断する。実装においては、Google CloudとMicrosoft Azureでエージェントカードの記述形式に微細な差異が生じる課題があったが、オーケストレーターに差分を吸収させる機能（ブリッジ処理）を実装することで乗り越えたという。

　2つ目は、コンテキストやツールの共有を可能にするMCPだ。従来のシステムでは、AIエージェントごとに独自のツールを保持していたため、連携時のコンテキスト共有が困難だった。本アーキテクチャでは、通貨計算やスケジュール立案といったツール群を共有MCPサーバに配置する。これによって、各AIエージェントは共通MCPサーバから必要なツールを呼び出すことができ、マルチクラウド構成でもコンテキストを失わずに作業を継続できる。

GenAIOpsの確立がもたらすシステム進化のロードマップ

　単体のAIモデルが賢くなるだけでは、もはや企業のビジネス要求を満たすことはできない。各AIエージェントがシステムとして連携する能力こそが求められている。

　モレノ氏とカマチョ氏は、マルチエージェントインフラを実運用に乗せるための次のステップとして、生成AIアプリケーションを用いた運用管理手法「GenAIOps」（Generative AI Ops）の重要性を強調する。従来の機械学習において、オープンソースの実験・モデル管理ツール「MLFlow」などを用いたモデルのライフサイクル管理が必須だったように、AIエージェントにおいても、プロンプトのバージョン管理やエージェント構成のライフサイクル管理が不可欠だ。

　AIエージェントのアーキテクチャやプロンプトを変更した際、複数のクラウドサービスにまたがるシステム全体に想定外の影響を与えず、問題があれば速やかに安定バージョンにロールバックする仕組みも重要だ。こうしたライフサイクル管理の枠組みをInfrastructure as Code（IaC）と組み合わせて整えることで、マルチエージェントシステムは初めて、企業の中核を担う安全で適応力があるインフラに進化する。

本稿は、CNCF（Cloud Native Computing Foundation）が2025年11月25日に公開した動画「Smarter Together: Orchestrating Multi-Agent AI Systems... Ana Maria Lopez Moreno & Sharon Camacho」を基に作成しました。