CXLが描くAIサーバの未来【前編】

AIサーバの“メモリ不足”解消の切り札「CXL」とは？

大規模なAIモデルの普及によって、サーバのメモリ容量不足が深刻化している。その状況を打破し得る規格が「CXL」だ。どのような仕組みでメモリを拡張できるようにするのか。

公開 2025年01月31日 05時02分

[TechTarget]

印刷する連載新着通知を受け取る

　インターコネクト規格「Compute Express Link」（CXL）は、2024年8月に米カリフォルニア州サンタクララで開催されたカンファレンス「FMS: the Future of Memory and Storage」のテーマの一つだった。CXLは、メモリやCPU、周辺デバイスなどを接続するためのオープン標準だ。高性能データセンターのサーバ向けに設計されており、複数のプロセッサがメモリを共有できるようにする。

　CXLを採用したメモリモジュール（CMM：CXLメモリモジュール）は、AI（人工知能）アプリケーション用の大容量メモリの需要が急速に高まっていることに応えるものだ。どのような仕組みでメモリ容量の不足に立ち向かうのか。

CXLでサーバのメモリ不足はどう解消できる？

併せて読みたいお薦め記事

CXLが秘める可能性

　標準的な入出力プロトコル「CXL.io」をはじめ、CXLは3種類のプロトコルを採用している。CXL.ioは、汎用（はんよう）インタフェース規格「PCI Express 5.0」（PCIe 5.0）の物理層と電気インタフェースを使用するプロトコルだ。これによってメモリへのアクセスや、メモリを共有する必要のあるデバイスとプロセッサ間の通信を実現する、低遅延の相互接続パスを提供する。

　CXLはPCIeに準拠した拡張バス（拡張カードを機能させるためのインタフェース）を使用するので、企業はシステムのメモリスロット（DIMMソケット）が埋まっていてもPCIeスロットを使うことでメモリを増設可能だ。Samsung Electronicsは、CXLを使用すれば新たな技術を追加することなくメモリ共有とメモリ拡張が可能になると説明する。

　CXLメモリモジュールの応用例としては、大規模言語モデル（LLM）に必要なメモリ構造の実現がある。Intelは2024年5月に公開したブログエントリ（投稿）で、「GPT-4」「Llama 2」「PaLM 2」といったLLMのトレーニングには、大容量のメモリと計算能力が必要だと説明した。同時に、CXLによってサーバベンダーが安価なメモリを利用できるようになり、ハードウェアの価格が下がる可能性にも言及。その例として、Micronが旧世代のメモリ規格である「DDR4」準拠のメモリチップを使用して、128GBのCXLメモリモジュールを提供していることを挙げた。

　次回は、Samsung ElectronicsによるCXLの実用例を紹介する。