AIに必要なネットワーク【前編】

AIインフラはGPUだけじゃない　ネットワークに必要な「3つの要素」

さまざまな企業がAI技術を利用するようになった。プロセッサの性能が重要なのと同様に、ネットワークの性能もAI技術の処理に直結する。

公開 2024年07月25日 07時03分

更新 2024年07月31日 21時14分

著者

Andrew Froehlich

[TechTarget]

印刷する連載新着通知を受け取る

　AI（人工知能）技術の台頭を受けて、AIワークロード（AI技術を組み込んだシステム）とその学習に使用するデータを処理するための、強力で効率的なネットワークが重要となっている。AIワークロードを効率的に処理するには、一般的なデータセンターとは異なるネットワークが必要だ。主に3つの要素を考慮する必要がある。

AIに必要な「ネットワークの3つの要素」とは

併せて読みたいお薦め記事

進化するデータセンターネットワーク

　AIワークロードを効率的に処理するネットワークには以下が求められる。

低レイテンシと高スループット

　AI技術による学習や推論の過程では、膨大なデータがネットワークを通じて頻繁に移動するため、ネットワークの性能が処理能力に直接影響を与える。そのため通常のワークロードよりも低いレイテンシ（遅延）と高速なスループット（実際の転送されるデータ量）が求められる。

水平方向への拡張性

　学習データは、ネットワークで相互接続された複数のサーバおよびGPU（グラフィックス処理装置）で同時に処理するため、必要なネットワーク接続の数は一般的なデータセンターのワークロードの何倍にもなることがある。ネットワークアーキテクチャとしては、水平方向にネットワークスイッチを拡張していく形になる。ネットワークスイッチには、全てのポートで仕様通りの帯域幅が使える「ノンブロッキングスイッチ」であることが求められる。