従来のストレージ組み込み型AIインフラは、「すでにシステムに到達したデータのみを用いて処理する」という前提で設計されている。

　新規に構築したインフラや、範囲が限定された単一のワークロードであれば、この前提でも問題なく機能する。しかし、多様なデータソースや絶えず変化するAIモデルが存在する企業システムでは、状況が異なる。データをAIインフラに移動させる作業が必要であり、その転送にかかる時間がそのままGPUの待機時間を生み出している。結果として、最も高価な計算資源であるGPUが処理を実行せずに電力を消費し続けるという構造的な課題だ。

現場が直面する制約

　データをあらかじめ単一のストレージ群に一元集約できない背景には、インフラ運用現場の制約が存在する。Dellは、データの移動を阻害する主な要因として以下の4点を挙げている。

　1点目は、規制およびデータ主権上の制約だ。セキュリティ要件のために、任意にコピーすることが認められていないデータがある。

　2点目は、アプリケーションの結合だ。データソースシステムが特定の変更ウィンドウ（メンテナンス時間枠）に固定されており、AIインフラから任意のタイミングでデータを抽出できないことがある。

　3点目は、特定の地域や国にデータを固定しなければならないというデータレジデンシー（所在地）の制約だ。

　4点目は、データの生成速度だ。各種センサーからのテレメトリー（遠隔情報収集）や顧客のトランザクションは絶えず生成されており、いかなる同期処理も追い付かない速度に達している。

　これらの物理的・制度的な制約を無視してデータの移動を強制する設計は、インフラ全体の深刻なボトルネックになる。

「データの3つの形態」とKVキャッシュの最適化

　この課題に対するアプローチとして、Dellはデータを単一のファイルやオブジェクトとして扱うのではなく、「データ」「メタデータ」「ベクトル」の3形態に分類して最適化する考え方を提唱している。その上で、データを単一システムに強制移行させるのではなく、データが存在する元の場所からGPUに直接供給する「フェデレーテッド（連携型）アーキテクチャ」の重要性を説いている。

　大容量の「データ」は、ガバナンスやデータ主権を保つために元のストレージやクラウドに留め置く。「メタデータ」はシステム全体に伝送し、GPU層がデータ群を可視化できるようにする。ポータブルな「ベクトル」は高速経路で連携させる。データを性質ごとに扱い分けることで、GPUの待機時間を最小化し、稼働時間を実際の計算処理に振り向けることが可能になる。

　この分類が最も効果を発揮するのが、LLM推論における「KVキャッシュ」の処理だ。KVキャッシュとは、AIモデルが文脈を保持・処理する際に構築するキーと値のテンソル（ベクトルデータ）を指す。このデータはGPUとストレージの間を高頻度で移動するため、通常のデータと同じ経路で処理させると推論速度の大幅な低下を招く。

　KVキャッシュを専用のストレージ処理にオフロード（委譲）することが、GPU利用効率向上の要となる。Dellが2025年10月に実施した、LLM「Qwen3-32B」を用いた比較テストでは、同社のストレージ製品を使用した場合、TTFT（Time to First Token：最初のトークンが出力されるまでの時間）は0.82～0.86秒だった。これは、KVキャッシュのオフロードを有効にしていない、標準的なオープンソースの推論エンジン「vLLM」の11.8秒と比較して最大約19倍の高速化（KVキャッシュオフロードなしの標準vLLMと比較して約14倍高速化）を示している。

RFPに組み込むべき「3つの質問」

　企業がAIインフラの調達を行う際、IOPS（入出力性能）や帯域幅、容量といった単なるストレージ製品向けの評価基準だけでは不十分だ。Dellは、ベンダー選定のRFP（提案依頼書）に以下の3つの質問を含めることを推奨する。

1. 規制や結合課題を持つ現実的な条件下で、KVキャッシュオフロードを有効にした際の期待GPU稼働率は何％か
   • 理想的な設定ではなく、制約下での実力値を測る
2. 最新のオープンソースモデルでの比較テスト結果を公開し、第三者が再現可能な形で妥当性を証明できるか
   • ベンダー独自の指標を排し、客観的な検証結果を求める
3. コピー不可能な新規データソースがオンラインになった際、GPUがそのデータを活用可能になるまでの時間はどの程度か
   • ベンダーのシステム構成が想定しているGPUのアイドル（待機）時間を示す尺度となる

　AIインフラの投資対効果を最大化するためには、単なるカタログスペックの比較から脱却しなくてはならない。データの重力という現実の制約を受け入れ、システム全体でのデータ連携を最適化するオープンな設計基準を持つことが、IT担当者に強く求められている。