「AIファクトリー」に関連する編集部お薦め記事

NVIDIAのCEOが説く「AI工場」とは？　従来型データセンターとの決定的な違い

AIの導入から活用までを支援　HPEが提唱する「AIファクトリー」の“中身”とは

　Amazon Web Services（AWS）、Google、Metaなどの企業は、現在GPUを多用するモデルトレーニングに焦点を当てた、大規模な集中型データセンターに数千億ドルを投じている。しかし、コンサルティング会社Entropyの社長ピーター・クレッセ氏は、データセンターのイノベーションについてのパネルディスカッションで、AIのユースケースが成熟し、それに伴うリアルタイム推論が普及すれば、データソースに近い場所で10ミリ秒以内に処理・分析・応答ができる分散型エッジアーキテクチャへの移行が必要になると予測する。

　Connected NationおよびIXP.USの政府担当エグゼクティブバイスプレジデントであるブレント・レッグ氏は、現在のインターネットエコシステムではその規模を支えられないと述べる。同氏の予測では、大都市の集中ハブを経由してデータトラフィックをルーティングする現在の仕組みは、24～36カ月以内に限界を迎えるという。

　レッグ氏は「大規模言語モデル（LLM）のトレーニングから、低遅延が求められる推論ベースのアプリケーションへと移行するにつれ、ニューヨークやアトランタのような大都市だけでなく、地域ごとにネットワークが相互接続してトラフィックを交換する場所を増やす必要がある。しかし、その進化はまだ起きていない」と指摘する。

　こうした状況は、ハイパースケーラーや通信事業者の間で構築と購入の狂騒を引き起こしている。Cisco Systemsのシニアセールスビジネスデベロップメントマネジャー、ロビン・オールズ氏によれば、機器購入のリードタイムは、新型コロナウイルス感染症（COVID-19）のパンデミック以降では類いを見ないほど長期化しているという。

　オールズ氏はワビック氏との対談で「Ciscoでは、ハイパースケーラーが必要以上の買いだめを行っている影響を受けている。彼らは将来を見越し、GPU、コンピューティング、電子機器、光学部品を可能な限り買い占めているのだ」と語った。

　もう1つの複雑な要因は、これらAIファクトリーが極めて多くの電力を消費するという事実だ。複数のセッションで、パネリストらはAI施設を支えるための適切なエネルギー生成の難しさを繰り返し強調した。オクラホマ州を拠点とするISP（インターネットサービスプロバイダー）のCentranetでビジネス・技術戦略担当バイスプレジデントを務めるサチン・グプタ氏が述べた通り、「電力競争を制する者がAI競争を制する」状況にある。

　中空コア光ファイバーを専門とするRelativity Networksの創設者兼CEO、ジェイソン・アイケンホルツ氏は、これらデータセンターで発生する計算レベルを維持するために、ハイパースケーラーは数百メガ～ギガワットのエネルギーを必要としているが、実際には確保できていないと指摘する。例えば、変圧器のリードタイムは5年から8年にも及ぶという。

　業界は代替エネルギーとして、太陽光発電や原子力エネルギーの小型モジュール炉（SMR）などを検討している。SMRはコンパクトで安定した電力を供給でき、炭素排出量も少ない。しかし、SMRを動力源とする商用データセンターが実現するのは数年先になる見込みだ。さらにワビック氏は、ほとんどのハイパースケーラーは、原子力に対する地域社会の懸念はさておき、管轄区域の規制や許可の遅れに対処するだけでも手いっぱいだと付け加えた。

　その結果、AI構築の現状は、まるで空中にふりかけをまき、その落ち方を見てから進路を決めるようなものだという。

　ワビック氏は「土地があり、政治的な反対がなく、稼働に必要な電力を供給できる天然ガスの本管がある場所。そこに推論ノードが設置されることになる」と述べた。

企業への示唆

　一般企業がハイパースケーラー級のAIファクトリーを建設することはない。しかし、彼らの戦略を参考に計画を立てることは可能だ。集中型データセンターだけでは、各地で発生するAIワークロードを支えきれない。工場の床、医療施設、小売店、あるいは自動運転車など、エッジでのAI推論を実現するには分散型アーキテクチャが必要となる。

　また、データセンター機器について数年先を見越した計画を立て、先行して購入することも重要だ。納入までに数カ月、あるいはそれ以上かかる可能性がある。Ciscoのオールズ氏は「電子機器であれ光ファイバーであれ、データセンター向けのものを買うなら、すぐに注文を入れるべきだ」と助言する。

　その計画プロセスで、企業は現在の電力容量を監査し、制約を特定して、電力の可用性をあらかじめ評価しておく必要がある。