これまでも、セキュリティ、プライバシー、長期的なコスト面の懸念から、クラウドベースのAI導入を敬遠する企業は一定数存在した。今回のGoogleの発表は、「最先端の商用モデルを活用したいが、セキュリティや法的リスクの懸念を心配する」企業に新たな選択肢を提供するものだ。

　「今回のGoogleの動きは、VMwareを買収したBroadcomがプライベートクラウド重視へと舵を切った流れに通じる」。こう指摘するのは、調査会社Forrester Researchのプリンシパルアナリストを務めるデビン・ディッカーソン氏だ。

　パブリッククラウドではなく、オンプレミスやプライベートクラウドが注目される背景には、Broadcomの戦略に追随するベンダーが増えている状況がある。新しい技術は、まずはパブリッククラウドで広く試されるが、成熟するにつれてオンプレミスやプライベートクラウドでの導入ニーズが拡大する傾向にある。

　オンプレミスAIを推進する企業の一つが、コンテナ管理ツールベンダーのDockerだ。同社は2025年4月、コンテナ化ツール「Docker Desktop」のバージョン「4.40」に、AIモデルのローカル実行機能「Docker Model Runner」を実装。「Gemma 3」や「Llama 3」などの小規模言語モデル（SLM）をコンテナに格納してオンプレミスにデプロイ（配備）できるようにした。

　Dockerは今後、GoogleやQualcomm Technologiesとの協業を深め、以下のようなツールやサービスとの連携を進めていく計画だ。

• 継続的インテグレーション／継続的デリバリー（CI/CD）ツール「Dagger」
• AIコーディングツール「Continue」
• AIアプリケーション開発ツール「Spring AI」
• コンテナ管理製品群「VMware Tanzu」
• AIモデルリポジトリサービス「Hugging Face」

クラウドではなくオンプレミスを選ぶ企業の本音

　Dockerでプロダクトマーケティング部門のバイスプレジデントを務めるニキル・クアル氏は、企業がオンプレミス運用を選ぶ理由を次のように分析する。「クラウドサービス経由でAIモデルを利用する場合と、ローカルでAIモデルを動かす場合では、コスト面で大きな差が出る」。クラウドサービス経由だと、利用料金が課される他、データ転送に遅延が生じる。既存の社内インフラを活用すれば、それらの追加負担は発生しない。

　しかし、大半の企業にとってAIワークロードのオンプレミスへの全面移行は現実的ではない。現実には、生成AI活用時に可能なデータはクラウドへ移行して自社データセンターの負担を削減しつつ、一部の機密データや特定業務は手元に残す、といったハイブリッドな対応が求められている。

　オンプレミスでGeminiを動かせるようになれば、企業はより多様なデータをAIモデルトレーニングに活用できるようになる。その結果、企業による生成AI開発は一段と進むと見込まれる。

　重要なのは、AIモデルが企業の保有するデータやシステムに接続できることだ。「生成AIを導入する企業にとって、どのAIモデルを選ぶかより、どのデータにアクセスできるかの方がはるかに重要だ」とディッカーソン氏は話す。企業独自のコンテキスト（背景情報）に根差したデータを生かせるか否かが、今後の企業におけるAI活用の成否を左右することになる。

Googleが見据えるAI活用の勝ち筋

　オンプレミスでのAI活用が進むことで、企業がデータやセキュリティに沿った形でAIを活用できる土台が整いつつある。その一方で、企業が次に見据えるべきテーマは、単一のモデル活用にとどまらない。「どのデータにアクセスするか」「複数のAIエージェントがどのように協力するか」といった次のテーマが浮かび上がってくる。

　Googleは、GDC向けに検索AIエージェント「Agentspace」の提供を発表しており、ユーザーはオンプレミスで「RAG」（検索拡張生成）を利用できる。RAGは学習データ以外に外部のデータベースから情報を検索、取得し、LLMが事前学習していない情報も回答できるように補う手法で、社内データに基づいた高度な応答を実現する。

　Googleは複数の企業と協力し、通信プロトコル「Agent2Agent」（A2A）の標準化をオープンソースプロジェクトとして推進していることも発表している。この取り組みは、各社が開発するエージェント間の相互運用性を高めることを目指すものだ。

　同様に、業界では次のような標準化や相互接続に向けた動きが活発化している。

• Model Context Protocol（MCP）
  • AIエージェントを外部のデータソースに接続するオープンソースプロトコル。Anthropicが開発した。
• AGNTCY
  • AIエージェント連携インフラを開発するオープンソースプロジェクト。Cisco Systems、AIエージェントベンダーLangChain、AIアプリケーション評価ツールベンダーのGalileoが2025年3月に立ち上げた。LangChainはA2Aプロジェクトにも参画している。

　ITコンサルティング企業Pythianでエンタープライズデータ＆アプリケーションオペレーション部門バイスプレジデントを務めるカシア・ワカレシー氏は、次世代AI活用の焦点を「AIエージェント間の連携強化」に置く。「複数の生成AIツールが異なる回答を返したときに、どの答えを信頼すべきかは未解決の課題だ」とワカレシー氏は指摘する。

　実際にPythianは、Atlassian製のRAGツール「Rovo」とGeminiを併用している。営業に関する質問をしたら、顧客管理システム「Salesforce」から最新データを取得し、それをSlackに自動投稿する、という仕組みだ。同じ問いに対する回答がツール間で異なったり、古い情報が混じっていたりするケースは少なくないが、その整合性を人手で確認するのは現実的ではない。「複数エージェントが協調し、企業が利用するアプリケーションを横断して情報収集から分析、応答までを一気通貫で担う。そのような仕組みが求められている」とワカレシー氏は語る。