AIに必要なネットワーク【後編】

AI処理の“爆速化”に欠かせない「ネットワークの重要技術」はこれだ

データセンターネットワークの性能はAIの処理能力に影響を直接与える。AIの処理能力を高速化するためのネットワークの設計のポイントや技術を紹介する。

公開 2024年08月01日 07時01分

著者

Andrew Froehlich

[TechTarget]

印刷する連載新着通知を受け取る

　人工知能（AI）技術を活用する企業が増加傾向にある。AIワークロード（AI技術を組み込んだシステム）を処理するデータセンターでは、AI技術を活用するための効率的なアーキテクチャが求められている。

　データセンターには従来、膨大なデータを処理するためのインフラがあるが、AIワークロードを効率的に処理するには、従来とは異なるネットワークの設計が必要になる。AIワークロードを効率的に処理するネットワークを設計するためのポイントを紹介する。

AI処理に欠かせない「ネットワークの重要技術」はこれだ

併せて読みたいお薦め記事

連載：AIに必要なネットワーク

前編：AIインフラはGPUだけじゃない　ネットワークに必要な「3つの要素」

進化するデータセンターネットワーク

　サーバ同士を接続するインターコネクト技術として「InfiniBand」がある。InfiniBandはイーサネットケーブルでは利用できず、専用のケーブルを必要とするため、イーサネットに比べてコストは高くなりやすい。しかし、速度やレイテンシ、信頼性（データの紛失や順序の乱れが起こらないこと）についてはイーサネットより総じて優れている。

　イーサネットでは「RDMA over Converged Ethernet」（RoCE）といった技術を利用する方法がある。RoCEは、メモリ間でのデータの直接転送を可能にする技術だ。

　ネットワーク処理機能を搭載したNIC（ネットワークカード）である「スマートNIC」（SmartNIC）も重要だ。スマートNICはCPU（中央演算処理装置）やGPU（グラフィックス処理装置）のデータ転送処理をオフロードし、転送速度を向上させる。

　GPUの処理をオフロードする装置としては「DPU」（データ処理装置）を採用する方法もある。スマートNICとDPUは別物だが、近年のスマートNICにはDPUが組み込まれているものもある。