GPUクラスタに最適なネットワーク要件【後編】
「GPU」を生かすも殺すもネットワーク トポロジー設計の勘所は？
AIワークロードを動かすためのネットワークをどのように再設計すべきかについて、企業は頭を悩ませている。AIインフラのネットワーク運用のヒントを、Gartnerの提言を基に解説する。
CPUベースの汎用（はんよう）コンピューティング環境では、リーフ／スパイン型のネットワークトポロジー（構成）が広く採用されてきた。しかし、この構成は必ずしもAIワークロードに最適とは言えない。
既存のデータセンターネットワークでAIワークロードを稼働させると、いわゆる「うるさい隣人」（ノイジーネイバー）問題が生じるリスクがある。これにより、AIワークロードと既存ワークロードの双方で処理遅延やジョブ完了の遅れが生じ、データセンター全体の処理効率やサービス品質が大きく損なわれかねない。こうしたリスクを回避し、GPUの利用に最適化されたネットワーク技術を選ぶには、どのようなポイントに着目すればいいのか。
GPUクラスタ設計で問われる“トポロジーの勘所“
併せて読みたいお薦め記事
連載：GPUクラスタに最適なネットワーク要件
AIインフラに関する話題
一般的に、AIインフラの構築において、ネットワークスイッチが占めるコストは全体の15％以下だ。そのため、既存スイッチを流用して短期的にコストを抑えるよりも、GPU向けに最適化された専用スイッチに投資する方が長期的な費用対効果は高くなる。
こうした背景から、調査会社Gartnerは以下のように提言する。
- GPU接続専用の物理スイッチを新規導入する
- リーフ／スパイン型に固執せず、ホップ数（物理スイッチの台数）をできるだけ減らす
- 単一スイッチ、二重スイッチ、フルメッシュ、キューブメッシュ、ドラゴンフライなど、用途に応じて適切なネットワークトポロジーを選択する
- 既存のデータセンター向けスイッチとは分離する
- GPUが500基未満の場合は、1～2台の物理スイッチが理想
- GPUが500基以上の場合は、専用のAI向けイーサネットファブリックを導入する
- その際、標準的なラック単位のトップオブラック（ToR）構成から、ミドルオブロー（MoR）やモジュラー型のスイッチへの移行が必要となる可能性がある。
特にイーサネットを導入する場合には、以下の要件を満たす専用スイッチを採用すべきだという。
- GPU向けの高速インタフェース対応
- 400Gbps以上のアクセスポートなど、GPU接続に十分な帯域が確保できること。
- ロスレスイーサネット対応
- 「量子化輻輳（ふくそう）通知」（DCQCN）など、データセンター向けの輻輳対策メカニズムに対応していること。
- 高度なトラフィックバランシング機能
- 輻輳状況に応じた動的ロードバランシングに対応できること。
- RDMA対応のロードバランシングとパケットスプレー機能
- リモートダイレクトメモリアクセス（RDMA）に対応し、複数経路へのパケット分散が可能であること。
AIワークロード向けネットワークでは、データフローを特定経路に固定する「静的ピニング」により、通信速度や応答時間を安定させることができる。一方で、その運用には高度な監視体制が欠かせず、管理層に以下のような機能が必要となる。
- 迅速なアラート、診断、修復機能
- 問題発生時に即座に通知し、原因特定から対応まで迅速に実施できること
- きめ細かいテレメトリー（可視性）
- サブ秒（1秒未満）や100ミリ秒未満の間隔で詳細なデータが取得できることで、トラブルシューティングや現場状況の把握が容易になること
- リアルタイム監視と履歴レポート機能
- 帯域利用率、パケットロス、レイテンシ、ジッター（レイテンシのばらつき）といった指標を、サブ秒単位で監視および通知できること。その履歴を蓄積して後から確認できること。
Computer Weekly発 世界に学ぶIT導入・活用術
米国Informa TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[日本オラクル株式会社] ピンチをチャンスに変えたEPR製品は？ 先行企業の導入事例3選 -
技術文書・技術解説
[日本オラクル株式会社] 無自覚なリスク 秘伝Excelファイルが監査の壁、不正・ミスの温床となる理由 -
製品資料
[日本オラクル株式会社] 戦略的経理の第一歩 失敗のない「脱Excel」を実現する秘訣とは？ -
技術文書・技術解説
[日本オラクル株式会社] いまさら聞けないオンプレERPとクラウドERPの違い 最適な製品をどう見極める？ -
事例
[株式会社ビザスク] 連結売上高が約2倍に成長、富士フイルムが実践した新規事業創出の戦略とは？
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
2
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
3
「ノートPC派」は損をしている？ Dellと考える“自作PC”のメリット
-
4
「企業内サーバ環境の利用実態」に関するアンケート
-
5
LINEヤフーはなぜ「社内の管理者」すら信用しないインフラを作ったのか
-
6
「Wi-Fi 7」経由でWindowsが乗っ取られる？ 最高権限奪取の恐怖
-
7
「SIEMの利用」に関するアンケート
-
8
「ITインフラとデータ保護・バックアップ対策」に関するアンケート
-
9
慶應義塾が「Notion」を選んだ理由 AI導入の盲点になる“情報のサイロ化”
-
10
「0.3秒のスピード顔認証」の入退室管理が社員に好評 事例に学ぶオフィス改革
ホワイトペーパーランキング PR
-
1
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
2
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
3
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
4
バックアップは“取っているから大丈夫”なのか？ ランサムウェア時代の備え方
-
5
システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
-
6
生成AIを開発に導入しても効果が見えない？ 実証実験で分かった成果と課題
-
7
経産省DX指針から読み解く、受発注業務デジタル化ロードマップ
-
8
5分で分かる Microsoft 365のデータ損失に備えるためのバックアップの仕組み
-
9
ネットワーク遅延の原因、「パケットロス」の基礎知識と効果的な解決策
-
10
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー