AIに欠かせないSSD【後編】
AI推論の遅延解消を目指す「SSDの魔改造」「GPUのNAND化」とは?
GPUへのデータ供給の遅れが、AI推論のボトルネックになっている。この課題に対し、SSD自体を推論処理に特化させるアプローチや、GPUのメモリ構造を変えるアプローチが登場している。その詳細を解説する。
AI(人工知能)技術の進化に伴い、大容量SSDも進化を遂げている。SSDは学習データを保管する以外にも有望なAI技術関連の用途がある。それは、AIモデルが判断を下す「推論」処理の高速化だ。NAND型フラッシュメモリベンダーのSamsung ElectronicsとSK hynixは、オンプレミスデータセンターにおけるAIモデルの推論処理が、大容量SSDのもう一つの大きな需要要因だと指摘している。
リアルタイム推論を「大容量SSD」で実現する2つのアプローチ
併せて読みたいお薦め記事
連載:AIに欠かせないSSD
AIシステムのためのストレージ
一部のオンプレミスデータセンターは、クラウドサービスに預けることができない機密データを扱っている。これらのデータセンターでは、AIモデルの学習データや推論データも他のデータと同様のセキュリティレベルで保護しなければならない。さまざまな国の政府が、AI関連のデータ主権(自国のデータは自国内の法律の下で管理するという考え方)を守るために、国内にAIデータセンターを建設している。このことを考えれば、個々の企業や組織が同様の対策を講じるのは自然な流れだ。
AIモデルの推論は、学習済みのAIモデルを使い、新しいデータに基づいて予測や判断をする処理だ。リアルタイム性が求められる推論が必要な場合、クラウドサービスのAIモデルを用いると、データの転送と応答に時間がかかり、タイムロスが発生してしまう。これを回避するためには、データをクラウドサービスに送らず、オンプレミスデータセンターで処理することが重要になる。
オンプレミスデータセンターで推論を素早く実行するには、AIモデルを瞬時に読み出さなければならない。こうした読み込みはHDDでは追い付かず、より高速に読み書きが可能なSSDが必要になる。数十TBのAIモデルのように、大きなサイズのAIモデルで推論を実行する場合、その巨大なデータを格納するための大容量SSDも必要になるという考え方だ。
SSDとGPUの最適化
AIモデルが実行する処理では、GPU(グラフィックス処理装置)の計算能力にストレージからのデータ供給が追い付かず、GPUがデータを待つための「待機時間」が発生する。この無駄な待機時間をいかに減らすかが、AIシステム全体の性能を向上させる上で重要だ。こうした課題を解決するため、ベンダーはSSDの性能、特に応答速度(レイテンシ)やランダムアクセス性能を、GPUがデータを要求するパターンに最適化させる方法を模索している。
その一つが、NAND型フラッシュメモリ技術ベンダーPhison Electronicが提供する「aiDAPTIV+」だ。これはソフトウェアとハードウェアを組み合わせた製品で、AI関連処理に特化したSSDを使用することで、必要なGPUの数を削減する。aiDAPTIV+は、AI関連処理を実行する上での固有の要件を満たす2つの要素で構成されている。1つ目は高い耐久性を備える専用SSD、2つ目は適切なタイミングでSSDとGPUでデータを入れ替える専用ミドルウェアだ。
一方、Sandisk(2025年2月にWestern Digitalからフラッシュストレージ事業が分社化)は異なるアプローチを取っている。SSDではなく、GPUが通常搭載するHBM(広帯域メモリ)の一部または全てを置き換える、特別に設計したNAND型フラッシュメモリチップ「HBF」(高帯域幅フラッシュ)の開発を進めている。通常のNAND型フラッシュメモリチップは、容量当たりの価格が最も安くなるように設計される。HBFはそうしたチップを土台にして、複数の独立したチップが並列でデータを読み書きできるようにする技術だ。これによって、読み出しの応答速度や、書き込み前に一度データを消去する必要があるというNAND型フラッシュメモリ固有の制約は残るものの、チップ全体の帯域幅(通信路容量)を飛躍的に向上させることができる。
HBFの業界標準化に向けて、SandiskとSK hynixが協業しているという事実は、この技術がAI分野における特定の問題を解決する上で、業界全体からの期待が集まっていることを示している。推論処理は学習処理に比べてメモリへの書き込みが大幅に少ないため、特に推論システムにおいて、HBFが有効な選択肢になる可能性がある。
上述した「GPU内のメモリをNAND型フラッシュメモリチップで置き換える」アプローチは、必ずしも大容量SSDとセットで導入されるものではない。ただし、HBFを採用したシステムに大容量SSDを追加すれば、お互いの長所を補完し、より高性能なシステムを構築できるようになるといったメリットは見込める。SSDを改良するか、GPU内のメモリを改良するか、どちらのアプローチが主流になるにせよ、大規模AIシステムにおけるNAND型フラッシュメモリベースのストレージの容量は、今後さらに速いペースで増加していくことは明らかだ。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget グローバルインサイト
米国Informa TechTargetが発信する記事を翻訳し、国内向けに分かりやすく紹介します。最新の海外動向や先進事例を取り上げ、グローバルなITトレンドを把握できる連載です。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[横河レンタ・リース株式会社] 「Wi-Fiにつながらない」「会議中に途切れる」の原因を切り分けやすくするには -
技術文書・技術解説
[アトラシアン株式会社] AIを導入で終わらせない、個人の利用から組織の成果に変えるリーダーの実践指針 -
製品資料
[アトラシアン株式会社] 生成AIの全社展開とROI最大化を阻む“ナレッジの壁” 突破するための4ステップ -
製品資料
[株式会社Helpfeel] コールセンター長を悩ませる「4大課題」と解決策 -
製品資料
[株式会社Helpfeel] 調査結果で見る「社内問い合わせ」の現状 ストレスや工数圧迫の原因は?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
2
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
3
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
4
社外との大容量データ共有をどう統制する? AbemaTVの「Dropbox」活用術
-
5
冷凍庫が一晩で50℃に 仏約700拠点を襲ったOT攻撃、侵入口は「遠隔管理」
-
6
WordPressサイトの4割が旧版のまま 自動更新が止まる組織の共通点
-
7
「データ活用とAI活用の実態」に関するアンケート
-
8
ユナイテッド航空がAI予約エージェントを遮断、そのとき航空業界は何を失うのか
-
9
「Azure OpenAIなど生成AI」に関するアンケート
-
10
「Confluence」が使うAxisで悪用、BIG-IPも修正――今朝の情シスニュース
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
「Microsoft 365」徹底解説ガイド テレワーク時代のセキュリティ対策編
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー