機械学習（ML）では、学習や推論の過程で大量のデータアクセスが同時多発的に発生する。I/O（入出力）待機時間を削減し、全体的な処理性能を大幅に向上させるために、ストレージ側で複数のデータストリームを同時に処理する「並列処理」が活用されている。

　例えばGoogleが2023年に発表した「Parallelstore」は、AI用途に特化したマネージド並列ファイルストレージで、高スループットかつスケーラブルなI/O処理を実現できる。

　AIワークロードにおけるもう一つの課題が、GPUとストレージキャッシュ間に生じるデータ転送のボトルネックだ。高価で供給も限られるGPUを最大限活用するには、ストレージからGPUへのデータ転送のレイテンシを最小限に抑える必要がある。ストレージベンダーInsurgo Mediaの最高商務責任者ジョン・ウーリー氏は、「GPUのアイドル時間（starvation）を防ぐためには、少なくとも毎秒10GBの持続的なスループットが必要だ」と述べている。

　この課題の解決策として、GPUとストレージが直接データをやりとりできる「NVIDIA GPUDirect Storage」がある。GPUが従来のようにCPUやOSを経由せず、転送プロトコル「NVMe」（Non-Volatile Memory Express）を採用したストレージへ直接アクセスでき、RDMA（リモートダイレクトメモリアクセス）に類似したアーキテクチャを採用している。この仕組みはDGS（Direct GPU Support）とも呼ばれ、レイテンシの大幅削減に役立つ。

　GPUと共有ストレージ間に、NVMe接続SSDをローカルキャッシュレイヤーとして配置し、各GPUに毎秒60GB超の帯域飽和を供給する構成も登場している。この性能を支えるため、クラウドベンダー各社は「シングルレベルセル」（SLC）のNAND型フラッシュメモリをベースとしたDGS最適化SSDの開発を進めている。

　NAND型フラッシュメモリ用コントローラーを手掛けるPhison USの最高技術責任者（CTO）セバスチャン・ジーン氏は、次のように説明する。「推論ワークロードでは、従来型の大容量ストレージと、超低レイテンシのDGS対応ストレージの両方が求められる」。小さなI/Oを瞬時にさばく能力が、GPUベースのAI処理では特に重要だと同氏は指摘する。

　こうしたニーズの高まりを受けて、NVIDIAが提供するAIインフラ向けの認証「NVIDIA DGX BasePod」「NVIDIA DGX SuperPod」を取得したストレージ製品も増えている。AIワークロードに特化したストレージは、今後の主力インフラとして、より洗練された設計へと進化していく見込みだ。昨今の代表的なAIワークロード向けストレージには、以下のような製品がある。

• NutanixのAIインフラ基盤「Nutanix Enterprise AI」
• Pure StorageのSTaaS（Storage as a Service）「Evergreen One for AI」
• DellのスケールアウトNAS（ネットワーク接続ストレージ）「Dell PowerScale」
• VAST Dataのストレージ基盤「Vast Data Platform」
• その他、Weka.io、HPE、Hitachi Vantara、IBM、NetAppなどの製品