AIファクトリーとは、AIモデルのライフサイクル全体を管理する大規模なデータセンターであり、コンピューティングインフラの一種だ。その運用には膨大な量のストレージやネットワーク機器、コンピューティングリソースが必要になる。データの取り込みやトレーニング、ファインチューニング（特定の目的に合わせてAIモデルを微調整すること）、推論に至るまで、AIモデルに関するさまざまな処理を実行する。

　NVIDIAのCEOであるジェンスン・フアン氏はAIファクトリー構想を推進しており、同社のAI戦略の重要な柱として位置付けている。

　その実現に向けてNVIDIAが大きな一歩を踏み出したのが、2020年のMellanox Technologiesの買収だ。Mellanox Technologiesは、高性能コンピューティング（HPC）向けのネットワーク製品を手掛ける企業だ。

　「大規模なAIモデルを学習させるための計算は、われわれが高性能コンピューティング（HPC）で培ってきた、複数のコンピュータをあたかも1台のコンピュータのように動作させる技術と本質的に同じだ」。NVIDIAでネットワーク部門のシニアバイスプレジデントを務めるケビン・ディアリング氏は、そう語る。ディアリング氏は、NVIDIAによる買収前はMellanox Technologiesでマーケティング担当シニアバイスプレジデントを務めていた。

　ディアリング氏は、「コンピュータがもはやプロセッサやGPUを内蔵した『箱』ではなく、『データセンターそのもの』であるとフアン氏は気付いたのだろう」と話す。逆に言えば、データセンターはそこにある全てのサーバやストレージ、ネットワーク機器が一体になった、「1つの巨大なコンピュータ」と見なすべきだ、ということだ。AIファクトリーは、GPUと直接データをやりとりすることを想定して設計されたストレージをラックに搭載し、それを何列も並べたデータセンターだ。だがそれは、単に金属製の筐（きょう）体に収められたコンピュータとは一線を画す。「われわれはラック内に可能な限りGPUを高密度に配置することで、データセンターの演算能力を向上させている」とディアリング氏は説明する。

　企業がAIファクトリーを活用する上で鍵となるのは、AIモデルの利用規模の拡大とファインチューニングだ。ディアリング氏は、「企業がAIモデルのファインチューニングやRAG（検索拡張生成）を利用する際には、大規模な処理が可能なAIファクトリーが役立つ」と述べる。RAGは、AIモデルが学習データ以外に外部のデータベースから情報を検索、取得し、事前学習していない情報も回答できるように補う手法を指す。

　一方でAIファクトリーには、膨大なエネルギーを消費するという課題がある。NVIDIAはこの電力需要を抑えるために、GPUを近くに配置してデータ通信にかかる電力を削減している。効果的な冷却を実現する液体冷却システムも、冷却システム自体の消費電力を減らすという意味で電力削減に貢献しているという。

　データセンターの電力削減と性能向上の両方を追求するNVIDIAの姿勢についてディアリング氏は、「ワット当たりの計算能力を向上させ続け、持続可能なデータセンターを構築、運用することが、われわれの使命だ」と語る。