データセンターでAIモデルを稼働させるためのメモリ容量を確保することは簡単ではない。大容量メモリの需要が高まる中、Samsung Electronicsは「CXL」を用いて新たな解決策を提示した。その実力とは。
AI(人工知能)技術が普及する中、データセンターでAIモデルを動かすためのメモリ容量不足が深刻な課題となっている。この問題を解決し得るのがインタフェース規格「CXL」(Compute Express Link)だ。メモリやCPU、周辺デバイスなどのコンピューティングデバイスを効率的に接続できるCXLは、メモリの拡張性を向上させる可能性を秘めている。
Samsung Electronicsは2022年にRed Hatと提携し、CXLをはじめとする新規格や新技術を活用してメモリおよびストレージ製品向けのオープンソースソフトウェア(OSS)開発・検証に注力してきた。その具体例を紹介する。
Samsung ElectronicsとRed Hatが協業で強化に取り組んでいる対象領域の例は以下の通りだ。
Red Hatが2024年5月に開催したイベント「Red Hat Summit 2024」で、Samsung ElectronicsはOS「Linux」のディストリビューション(配布パッケージ)「Red Hat Enterprise Linux」(RHEL)バージョン9.3に組み込んだCMMのデモンストレーションを実施した。その中で、この仕組みがディープラーニング推論モデル(DLRM)の処理性能を向上させることを述べた。RHELで使用できるCXLデバイスとその関連ソフトウェアについて、Red Hatが公式に動作保証を与えたことを示す例となった。
このデモンストレーションでは、Samsung Electronicsのオープンソースの開発キット「Scalable Memory Development Kit」(SMDK)のメモリインターリーブ技術(複数のメモリモジュールを並列で使う技術)を使用して、メモリアクセスの速度を向上させた。SMDKによるメモリ最適化を適用した、DRAM(揮発性メモリ)搭載のCMM(CMM-D)によって、開発者は大規模な投資をすることなく高性能AIモデルを構築できるとSamsung Electronicsは説明する。これによってデータ処理や学習、推論の速度が加速するという。
Red Hat Koreaのゼネラルマネジャーであるキム・キョンサン氏は、このデモンストレーションについて次のように述べる。「Red Hatのソフトウェア向けにSamsung Electronicsのハードウェアを最適化することは、CMM-Dなど、次世代のメモリを拡充する上でオープンソース技術が不可欠なことを強調している」
Red Hatパートナーの製品カタログにおいて、Samsung Electronicsは自社のCMM-Dについて、RHELの「メモリティアリング」機能を活用することで効果的に運用できると説明している。それによると、めったにアクセスされないデータがローカルメモリにあると、頻繁にアクセスされるデータ(「ホット」なデータ)によってメモリのパフォーマンスが低下する。こうした場合において、頻繁にアクセスされるデータをローカルメモリ層に、あまり使用されないデータをCXL層に割り当て、必要に応じてメモリ間でデータを移行できるのがメモリティアリング機能だ。
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
CPUやGPUの性能向上に伴い、データセンターでは今、発熱量の増加にどう対応するかが課題となっている。特に高密度なサーバ環境では、従来のファンやヒートシンクに頼るだけでは熱管理が難しい。こうした中、企業が採用すべき手段とは?
HDDの容量が30TB超になると同時に、ストレージ技術はさまざまな進化を続けている。そうした中でもインタフェースに「SATA」(Serial ATA)を採用したHDDが変わらずに使われ続けている。なぜなのか。
カラオケ業界が直面するデータ増に対応すべく多くのストレージを試し続けた結果、4社27台の製品のメンテナンスに悩まされていたエクシング。この問題を解消すべく、同社は大容量かつコスト削減効果に優れた、新たなストレージを導入した。
メインフレームにおけるデータソート処理は、システム効率に大きく影響する。そこで、z/OSシステムおよびIBM Zメインフレーム上で稼働する、高パフォーマンスのソート/コピー/結合ソリューションを紹介する。
ECと通販システムを統合したパッケージの開発と導入を事業の柱とするエルテックスでは、事業の成長に伴いデータの容量を拡大する必要に迫られていた。そこでストレージを刷新してコスト削減や可用性の向上などさまざまな成果を得たという。
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...
「マーケティングオートメーション」 国内売れ筋TOP10(2025年5月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。
「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。