AIインフラの「パブリッククラウド離れ」が急速に進む“当然の理由”：AI本番運用も「オンプレミス回帰」

AIツールの活用が本番運用へ移行する中、Broadcomの調査によると、インフラとしてパブリッククラウドを選ぶ企業が減少している。背景には何があるのか。足かせとなっている3つの問題を取り上げる。

[TechTargetジャパン]

　AI技術による業務変革が加速する中、企業は生成AI利用などの実験的な取り組みをパブリッククラウド内で開始した。しかし、技術検証を終えて本番環境での運用に移行しようとすると、企業は費用面や運用面でさまざまな壁に直面することになる。

　半導体ベンダーBroadcomが発表した調査レポート「Private Cloud Outlook 2026」によると、AIモデルの推論をプライベートクラウドで実行中または計画中だと答えた企業が半数を超えた。その一方で、パブリッククラウドでの割合は2025年比で大幅に低下していることが明らかになっている。

　AIモデルの本番稼働において、なぜこれほど急速な「プライベート回帰」が起きているのか。そこには、パイロット段階の小規模なシステムでは顕在化しなかった「費用予測の困難さ」「システムの複雑化」「ガバナンスの欠如」という3つの課題が存在していた。調査データが浮き彫りにしたパブリッククラウドの限界と、企業がAIインフラを自社に戻す決定的な要因を解説する。

AIインフラの「パブリッククラウド離れ」が進む理由

併せて読みたいお薦め記事

AIインフラはどう選ぶべきか

• “AIインフラ”でも論争になる「オンプレミス」対「クラウド」　どう選ぶべき？
• なぜあえてオンプレミス？　Gemini新モデルで浮上するAIの“クラウド離れ”

　本稿で紹介する調査は、2026年2月から3月にかけて実施された。北米、欧州、アジア太平洋地域の8カ国において、従業員数1000人以上の企業に所属するIT部門の上級意思決定者1800人を対象としている。

　企業のインフラ選択に関する調査結果は、明確な潮目の変化を示している。本番環境での推論処理を実行中または計画中のインフラとして、56％の企業がプライベートクラウドを挙げた。これに対し、パブリッククラウドでの利用率は41％にとどまっている。2025年の調査ではパブリッククラウドの利用率が56％だったことから、1年で15ポイントも低下したことになる。初期の実験やモデルの訓練の段階では、必要な計算資源を迅速に調達できるパブリッククラウドが適している。しかし、AIツールを自社の業務プロセスに組み込み、継続的に推論処理を実行する本番運用フェーズに入ると、企業に求められるインフラの要件は根本から変わることになる。

　移行の最大の引き金となっているのが、限界を迎えた費用対効果だ。パブリッククラウド利用における最大の懸念事項として、「費用（の増大）」の割合が「セキュリティ」を上回り、2025年の26％から31％へと上昇した。AIモデルの運用においては、GPU（グラフィックス処理装置）の稼働や膨大なデータの転送に伴う従量課金が、インフラ費用を押し上げる。生成AIやAIエージェントの運用にかかるインフラ費用に対して、62％のITリーダーが強い懸念を示している。

　さらに深刻なのは、投資に見合う効果が得られていないという認識だ。回答者の97％がパブリッククラウドの利用料金の一部に無駄があると指摘し、52％のリーダーは全体の予算の25％以上で無駄が発生していると試算している。顧客情報を処理する基幹系システムとクラウド型AIサービスを連携させる場合、パブリッククラウドと自社データセンター間で頻繁なデータ移動が発生する。これによって、想定外のネットワーク転送費用が膨れ上がるだけでなく、通信の遅延が業務システムのパフォーマンスを低下させる要因となる。

　こうした費用の不透明さを嫌い、83％の企業がワークロードを自社インフラに戻す「オンプレミス回帰」を検討しており、すでに50％が移行を実施済みだという。自社インフラに回帰する理由として「費用の予測可能性」が急浮上しており、企業の39％がこれを挙げている。高い処理能力が求められる業務を背景に、「パフォーマンス」を理由に挙げる企業も39％に達しており、インフラ選択の動向を見れば必然の結果だと言える。

　費用と並行して、企業を悩ませているのがデータのガバナンスだ。AIモデルによるデータ処理が高度化するにつれて、企業のIT部門はデータ保護やプライバシー（37％）、セキュリティと管理（36％）といった新たな要件に直面している。

　グローバルで事業を展開する企業にとって、各国の規制や地政学的な動向は見過ごせない要素だ。ITリーダーの80％が、地政学的な要因が自社のIT戦略や運用に影響を及ぼしていると答えた。インフラの意思決定を左右する地政学的要因として、「データ主権および所在地要件」（54％）を挙げた人の割合が、「管轄区域ごとのコンプライアンス要件」（51％）を上回っている。これは法規制を守るだけではなく、機密データをどこに保管し、誰がアクセスできるのかという制御権を自社で完全に掌握したいという経営層の意志の表れだ。

　AI導入に伴う課題はインフラだけではない。AIインフラやクラウドセキュリティを適切に運用できるIT人材の不足も顕著になっている。40％の企業がAIインフラと運用に関するスキルギャップを最大の課題として挙げている。

　Broadcomのマーケティング担当バイスプレジデントであるプラシャント・シェノイ氏は、企業がAIツールを試験運用から本番環境へと移行させるにつれて、インフラと運用にかかる費用が急増するだけではなく、セキュリティ上の課題が顕在化し、複雑さも増大していると指摘する。その結果として、企業が本番環境でのAI運用に際してプライベートクラウドを選択する傾向が高まっているという。

　過度なパブリッククラウド依存からの脱却は、単なる揺り戻しではない。本番環境のAIワークロードを安定かつ安全に稼働させ、予測可能な費用で運用するという、実利的な経営判断に基づくものだ。今後は、自社のデータ主権を確保しつつ、限られたIT人材でも効率的に管理・自動化できる、一元化されたプライベートクラウドの構築が、企業の競争力を左右する重要な鍵になるだろう。