AI関連のインフラ投資先は、処理を専用ハードウェアに肩代わりさせる「アクセラレーテッドコンピューティング」が大半を占め、その市場はNVIDIAの独壇場だ。とはいえ、調査会社IDCは2026年3月に公表した世界AIインフラ市場調査の中で、「増大する学習および推論の要件に応えるため、AIインフラの拡張が進む中で、x86および非x86（Arm系など）双方のCPUシステムが広く導入された」と指摘した。

　調査会社ABI Researchの調査ディレクターを務めるレオ・ゲルグス氏によると、推論やAIエージェントによる処理需要の拡大は、データセンターに配備される機器に影響を与える。これはIntelにとって強い追い風となり、AMD（Advanced Micro Devices）が培ってきた伝統的なx86プロセッサ資産にとっても有利に働く。

　他の企業も市場参入の機会をうかがっている。QualcommはAIラック向けの独自レファレンスデザイン（標準設計仕様）を提案している。NVIDIA自身も、ArmアーキテクチャのCPU技術と自社のGPUを1つのチップに密接に連携させたアーキテクチャ「Grace Hopper」を展開している。ただしゲルグス氏によれば、これらの取り組みはまだ本格的な市場普及に至る過渡期にある。

　ArmのクラウドAI部門でセグメントマーケティング担当シニアディレクターを務めるディリップ・ラマチャンドラン氏は、AIエージェントの普及によって、1基のCPUが2基のGPUを制御する従来のシステム構成では、CPUが処理のボトルネックになりつつあると指摘する。これを受けて、企業はツールの呼び出しやシステム全体の連携、論理計画といった処理を担わせるためにCPUクラスタの追加を検討し始めているという。

　ABI ResearchはデータセンターにおけるCPUとGPUの比率が6対1、あるいは7対1程度になると予測する。CPUの消費電力はNVIDIA製GPUに比べてごくわずかであるため、データセンター設計の電力と冷却のバランスが大きく覆るはずだ。ただし、代替半導体の提供企業が照準を合わせているのは、CPUのような非アクセラレーターだけではない。

代替アクセラレーターの台頭

　Broadcomは、顧客企業のソフトウェアやAIモデルに合わせて最適化した専用アクセラレーターの開発に注力している。NVIDIAの主力チップよりも格段に消費電力が少ないため、データセンター運営企業が設計に組み込むべき電源や冷却設備の規模を大幅に圧縮する。Broadcomの顧客にはGoogleやMeta Platformsなどの大規模クラウド事業者に加え、OpenAIやAnthropicといったAIベンダーも名を連ねている。

　BroadcomのCEOであるホック・タン氏は、2026年度第3四半期（2026年5〜7月）決算説明会で次のように述べた。「当社のXPU（カスタムアクセラレーター）を採用する6社が、その本格配備を加速させている。AI半導体の収益は2025年度同期（2025年5〜7月）比で3倍以上となる167億ドルに達した。当四半期中には、AnthropicとGoogleの双方にTPU（テンソル処理ユニット）の第7世代「Ironwood」を大量にを納入した」

　タン氏は、Google向けに出荷を開始した次世代の「TPU v8i」が性能面でNVIDIAの次世代GPU「Vera Rubin」に匹敵、あるいはそれを上回る水準に達していると主張する。自社の特定ワークロードに合わせて最適化した独自チップを開発すれば、汎用（はんよう）GPUを上回る性能を低予算で実現できるというのがBroadcomの見立てだ。

　Broadcom以外にも、代替アクセラレーターを手掛ける新興勢力が続々と台頭しており、そのほとんどがArmが提携しているとラマチャンドラン氏は指摘する。これらのチップは電力効率を最優先に設計されており、特定の処理タスクに特化して真価を発揮する。

　ラマチャンドラン氏は、GPUの巨人であるNVIDIA自身が推論能力を補強するために、新興半導体メーカーのGroqと提携した動きを一例として挙げる。「その結果、データセンター内にさまざまなチップが混在するようになるだろう。適材適所で組み合わされるはずだ」

　もちろん、NVIDIAには依然としてデータセンターの中核に君臨し続けるための強力な強みがある。同社の開発ソフトウェア「CUDA」はAI技術の発展を下支えしてきており、開発者をNVIDIAのシステムに実質的に縛り付けている。だがゲルグス氏は、AMDのソフトウェア「ROCm」とCUDAとの差が縮小していることから、CUDAが築いた障壁の重要性は低下する可能性があると分析する。「自律型AIの普及に伴い、その重要性は次第に薄れていくだろう」

エッジへの移行は進むか

　2022年から2023年ごろにかけて、NVIDIAのGPU確保は国家レベルの安全保障問題だった。2026年になって、データセンターの設計者や事業者の前には、はるかに多彩な半導体の選択肢が並んでいる。だからといって、データセンター事業者が施設の基本設計を根本から白紙に戻せるわけではない。

　データセンター事業者Kao Dataで顧客向けソリューション担当バイスプレジデントを務めるリチャード・カラー氏は次のように語る。「代替半導体を使おうと、同等の計算処理を実行させる限り、必要となる総電力量と冷却能力は大きく変わらない。製造プロセスの微細化によって電力効率は向上しているものの、チップ自体が提供する計算密度も増しているため、発熱と電力の特性は高密度のままだ」。従って高密度電力を受け止め冷却する「基盤インフラ」の骨格は変わらず、同社の見解では「液冷システムの導入は依然として不可欠」だという。

　データセンターを取り巻く別の制約は、半導体の進化とは全く異なる時間軸で動いている。データセンター建設計画の許認可は、どれほど手続きを加速させたとしても数カ月から数年を要し、建設工事そのものにも同様の歳月がかかる。送電網への新規連系は、順番待ちが数十年単位に及ぶ地域さえある。

　そうした制約の中、処理の中心が「学習」から「推論」へとシフトするにつれて、すでに受電設備と通信網が整っている大都市圏近郊（メトロ拠点）やエッジ拠点が有力な選択肢として浮上している。最大の利点は、計算を必要とするエンドユーザーの物理的至近にあることだ。

　データ主権やプライバシー保護への要請も、データセンターの立地を左右するとゲルグス氏は説明する。推論を高速化し、主権やプライバシーに関する懸念を払拭するため、コンピューティングリソースをデータの発生源に近い場所（エッジ）に配置することが求められる場合もある。同氏は、こうしたエッジへの移行によって、標準的な設計やモジュール式設計への注目がさらに高まると見込む。

データセンター解体の時か

　推論処理を軸とした「データセンターの分散化」を象徴するのが、投資会社Vista EquityとCambium Capitalが支援する分散型AI推論クラウド「Vector Core Compute」（VC2）だ。VC2は、プロンプトの読み込みにNVIDIA製GPUを、逐次的なトークン生成に推論特化型のSambaNova Systems製チップを、システム全体の制御にIntelのCPU「Intel Xeon」を組み合わせるという、適材適所のハイブリッド構成を採用している。

　SambaNova SystemsのCEO、ロドリゴ・リャン氏は、全米上位50の大都市圏にインフラを展開する狙いをこう語る。「リアルタイムなビジネス展開には需要地の近くに拠点を置く必要がある。ロンドンの中心部にギガワット規模の巨大データセンターを建設することなど不可能だからだ」。土地や電力が逼迫（ひっぱく）する都市部や、データ主権を重んじる欧州市場において、こうした分散配備は必然の選択肢となる。

　都市部での運用を巡り、冷却技術の在り方にも議論が生じている。SambaNova Systemsは空冷システムを活用した持続可能で低予算な推論システムを掲げるが、これには疑問の声も根強い。ラマチャンドラン氏は、数億円規模に達するサーバラック一式の導入費に比べれば液冷化にかかる費用はわずかであり、高密度なAI処理から最大性能を引き出すには施設全体を液冷に統一するのが合理的だと指摘する。カラー氏もこれに同調し、将来のサーバルームではCPU、GPU、量子コンピュータのラックが隣り合って並び、高密度な液冷インフラを共有しながら互いを補完し合うようになると見通す。

　もっとも、こうしたインフラの多様化や技術論争に対して、ユーザー企業は冷静だ。自前でインフラを構築する事業者を除けば、大半の企業の関心は「自社の機密データが他社のAIモデル学習に流用されず、データ保護とプライバシーが確実に保証されているかどうか」という運用上の問題だ。ゲルグス氏が指摘するように、安全性が保証されていれば、企業は利用可能な推論能力を手当たり次第に活用するだけだ。内部の半導体が何であるか、冷却方式が何であるかといった技術的細部に、過度な関心を寄せる企業は今のところほとんどいない。