CXLが描くAIサーバの未来【前編】
AIサーバの“メモリ不足”解消の切り札「CXL」とは?
大規模なAIモデルの普及によって、サーバのメモリ容量不足が深刻化している。その状況を打破し得る規格が「CXL」だ。どのような仕組みでメモリを拡張できるようにするのか。
インターコネクト規格「Compute Express Link」(CXL)は、2024年8月に米カリフォルニア州サンタクララで開催されたカンファレンス「FMS: the Future of Memory and Storage」のテーマの一つだった。CXLは、メモリやCPU、周辺デバイスなどを接続するためのオープン標準だ。高性能データセンターのサーバ向けに設計されており、複数のプロセッサがメモリを共有できるようにする。
CXLを採用したメモリモジュール(CMM:CXLメモリモジュール)は、AI(人工知能)アプリケーション用の大容量メモリの需要が急速に高まっていることに応えるものだ。どのような仕組みでメモリ容量の不足に立ち向かうのか。
CXLでサーバのメモリ不足はどう解消できる?
標準的な入出力プロトコル「CXL.io」をはじめ、CXLは3種類のプロトコルを採用している。CXL.ioは、汎用(はんよう)インタフェース規格「PCI Express 5.0」(PCIe 5.0)の物理層と電気インタフェースを使用するプロトコルだ。これによってメモリへのアクセスや、メモリを共有する必要のあるデバイスとプロセッサ間の通信を実現する、低遅延の相互接続パスを提供する。
CXLはPCIeに準拠した拡張バス(拡張カードを機能させるためのインタフェース)を使用するので、企業はシステムのメモリスロット(DIMMソケット)が埋まっていてもPCIeスロットを使うことでメモリを増設可能だ。Samsung Electronicsは、CXLを使用すれば新たな技術を追加することなくメモリ共有とメモリ拡張が可能になると説明する。
CXLメモリモジュールの応用例としては、大規模言語モデル(LLM)に必要なメモリ構造の実現がある。Intelは2024年5月に公開したブログエントリ(投稿)で、「GPT-4」「Llama 2」「PaLM 2」といったLLMのトレーニングには、大容量のメモリと計算能力が必要だと説明した。同時に、CXLによってサーバベンダーが安価なメモリを利用できるようになり、ハードウェアの価格が下がる可能性にも言及。その例として、Micronが旧世代のメモリ規格である「DDR4」準拠のメモリチップを使用して、128GBのCXLメモリモジュールを提供していることを挙げた。
次回は、Samsung ElectronicsによるCXLの実用例を紹介する。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社インターネットイニシアティブ] 人材不足と属人化が深刻に 「攻められない情シス」を変革する一手とは? -
製品資料
[株式会社イトーキ] 会議室が「空いてるのに使えない」問題の解決策とは? -
事例
[株式会社イトーキ] 製造現場を取り巻く経営課題 「持続的な現場力」を強化する方法とは? -
製品資料
[株式会社イトーキ] 社員の力を引き出す、「ABW(Activity Based Working)」を実現する秘訣とは? -
製品資料
[株式会社BREXA Technology] 「インシデント初動対応」が遅れる3つの構造的要因とは?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
企業が「Microsoft Azure」を選ばざるを得ない理由
-
2
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
3
なぜノートPCの更新が「4年→6年」に? AIインフラ急拡大の余波
-
4
「リモートアクセスセキュリティ」に成功する企業、そうでない企業の違い
-
5
無課金から要課金まで AIの基本や応用がマスターできる“学習コース”9選
-
6
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
7
NVIDIA、フアンCEO辞任で揺らぐ“AI帝国” IT調達計画への影響は?
-
8
「営業・マーケティングの悩みと企業データの活用」に関するアンケート
-
9
脱VMwareの真実:データセンター大手がNutanixを選んだ「コスト以上の理由」
-
10
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
6
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
10
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー