CXLが描くAIサーバの未来【後編】
Samsungが示す「CXL」の可能性とは? 「AI用メモリ」のコスト削減
データセンターでAIモデルを稼働させるためのメモリ容量を確保することは簡単ではない。大容量メモリの需要が高まる中、Samsung Electronicsは「CXL」を用いて新たな解決策を提示した。その実力とは。
AI(人工知能)技術が普及する中、データセンターでAIモデルを動かすためのメモリ容量不足が深刻な課題となっている。この問題を解決し得るのがインタフェース規格「CXL」(Compute Express Link)だ。メモリやCPU、周辺デバイスなどのコンピューティングデバイスを効率的に接続できるCXLは、メモリの拡張性を向上させる可能性を秘めている。
Samsung Electronicsは2022年にRed Hatと提携し、CXLをはじめとする新規格や新技術を活用してメモリおよびストレージ製品向けのオープンソースソフトウェア(OSS)開発・検証に注力してきた。その具体例を紹介する。
CXLで「大規模投資せずにAIモデルを構築」できるようになるのはなぜ?
併せて読みたいお薦め記事
連載:CXLが描くAIサーバの未来
CXLが秘める可能性
Samsung ElectronicsとRed Hatが協業で強化に取り組んでいる対象領域の例は以下の通りだ。
- ストレージインタフェース規格「NVMe」(Non-Volatile Memory Express)を採用したSSD
- CXLを採用したメモリモジュール(CMM:CXLメモリモジュール)
- コンピュテーショナルメモリ/コンピュテーショナルストレージ
- メモリやストレージデバイス内で直接データを処理できる製品。
- ファブリック
- 複数のコンピューティングデバイスやストレージを接続するための高速ネットワーク技術。
Red Hatが2024年5月に開催したイベント「Red Hat Summit 2024」で、Samsung ElectronicsはOS「Linux」のディストリビューション(配布パッケージ)「Red Hat Enterprise Linux」(RHEL)バージョン9.3に組み込んだCMMのデモンストレーションを実施した。その中で、この仕組みがディープラーニング推論モデル(DLRM)の処理性能を向上させることを述べた。RHELで使用できるCXLデバイスとその関連ソフトウェアについて、Red Hatが公式に動作保証を与えたことを示す例となった。
このデモンストレーションでは、Samsung Electronicsのオープンソースの開発キット「Scalable Memory Development Kit」(SMDK)のメモリインターリーブ技術(複数のメモリモジュールを並列で使う技術)を使用して、メモリアクセスの速度を向上させた。SMDKによるメモリ最適化を適用した、DRAM(揮発性メモリ)搭載のCMM(CMM-D)によって、開発者は大規模な投資をすることなく高性能AIモデルを構築できるとSamsung Electronicsは説明する。これによってデータ処理や学習、推論の速度が加速するという。
Red Hat Koreaのゼネラルマネジャーであるキム・キョンサン氏は、このデモンストレーションについて次のように述べる。「Red Hatのソフトウェア向けにSamsung Electronicsのハードウェアを最適化することは、CMM-Dなど、次世代のメモリを拡充する上でオープンソース技術が不可欠なことを強調している」
Red Hatパートナーの製品カタログにおいて、Samsung Electronicsは自社のCMM-Dについて、RHELの「メモリティアリング」機能を活用することで効果的に運用できると説明している。それによると、めったにアクセスされないデータがローカルメモリにあると、頻繁にアクセスされるデータ(「ホット」なデータ)によってメモリのパフォーマンスが低下する。こうした場合において、頻繁にアクセスされるデータをローカルメモリ層に、あまり使用されないデータをCXL層に割り当て、必要に応じてメモリ間でデータを移行できるのがメモリティアリング機能だ。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社kickflow] 2社の事例に学ぶワークフロー改革:属人化解消や年数万件の申請書類削減のコツ -
製品資料
[NTTPCコミュニケーションズ株式会社] 「回線速度不足」だけが原因ではない? Web会議の遅延を解決する方法とは -
製品資料
[東京エレクトロン デバイス株式会社] 工場の可用性向上に重要な「7つの領域」と対策 OTセキュリティ強化の基礎知識 -
製品資料
[リコージャパン株式会社] 問い合わせ対応で本来の業務が進まない、総務や情シスの負担をどう減らす? -
製品資料
[リコージャパン株式会社] 自社データから高精度な回答を生成、簡単に生成AIチャットボットを構築する方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
ITエンジニア1265人調査 生成AIを使い込むほど「人の確認」が重い理由
-
2
全社標準Copilotに絶望? MS Copilotで問い合わせ6割減できた企業は何が違った
-
3
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
4
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
5
「Copilot」はなぜ放置される? “議事録要約止まり”を脱する処方箋
-
6
「Microsoft一択」で本当にいいのか 知らぬ間にライセンス費用が膨らむ真相
-
7
音声もFAXもメールで確認――ユニファイドメッセージの業務効果
-
8
AI活用か新たな脅威か OpenAI自律エージェントがRubyGemsを急襲
-
9
IT予算が10%増えたら何に使う? 著名企業のCIOが明かす「最優先の投資先」
-
10
APIキー奪取から3時間でクラウド掌握 Anthropicが暴いた「バイブハッキング」の現実的な防御策
ホワイトペーパーランキング PR
-
1
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは?
-
2
生成AIで文書活用を進めるには? 効率化と安全性をどう両立する
-
3
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
4
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
5
少額減価償却資産が40万円未満へ拡大、令和8年度税制改正で押さえるべき変更点
-
6
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
7
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは?
-
8
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
9
Linuxのスキルを証明する“激推し”の認定資格はこれだ
-
10
AI時代に成功するための「ナレッジマネジメント」ベストプラクティス
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー