GPUクラスタに最適なネットワーク要件【後編】
「GPU」を生かすも殺すもネットワーク トポロジー設計の勘所は?
AIワークロードを動かすためのネットワークをどのように再設計すべきかについて、企業は頭を悩ませている。AIインフラのネットワーク運用のヒントを、Gartnerの提言を基に解説する。
CPUベースの汎用(はんよう)コンピューティング環境では、リーフ/スパイン型のネットワークトポロジー(構成)が広く採用されてきた。しかし、この構成は必ずしもAIワークロードに最適とは言えない。
既存のデータセンターネットワークでAIワークロードを稼働させると、いわゆる「うるさい隣人」(ノイジーネイバー)問題が生じるリスクがある。これにより、AIワークロードと既存ワークロードの双方で処理遅延やジョブ完了の遅れが生じ、データセンター全体の処理効率やサービス品質が大きく損なわれかねない。こうしたリスクを回避し、GPUの利用に最適化されたネットワーク技術を選ぶには、どのようなポイントに着目すればいいのか。
GPUクラスタ設計で問われる“トポロジーの勘所“
併せて読みたいお薦め記事
連載:GPUクラスタに最適なネットワーク要件
AIインフラに関する話題
一般的に、AIインフラの構築において、ネットワークスイッチが占めるコストは全体の15%以下だ。そのため、既存スイッチを流用して短期的にコストを抑えるよりも、GPU向けに最適化された専用スイッチに投資する方が長期的な費用対効果は高くなる。
こうした背景から、調査会社Gartnerは以下のように提言する。
- GPU接続専用の物理スイッチを新規導入する
- リーフ/スパイン型に固執せず、ホップ数(物理スイッチの台数)をできるだけ減らす
- 単一スイッチ、二重スイッチ、フルメッシュ、キューブメッシュ、ドラゴンフライなど、用途に応じて適切なネットワークトポロジーを選択する
- 既存のデータセンター向けスイッチとは分離する
- GPUが500基未満の場合は、1~2台の物理スイッチが理想
- GPUが500基以上の場合は、専用のAI向けイーサネットファブリックを導入する
- その際、標準的なラック単位のトップオブラック(ToR)構成から、ミドルオブロー(MoR)やモジュラー型のスイッチへの移行が必要となる可能性がある。
特にイーサネットを導入する場合には、以下の要件を満たす専用スイッチを採用すべきだという。
- GPU向けの高速インタフェース対応
- 400Gbps以上のアクセスポートなど、GPU接続に十分な帯域が確保できること。
- ロスレスイーサネット対応
- 「量子化輻輳(ふくそう)通知」(DCQCN)など、データセンター向けの輻輳対策メカニズムに対応していること。
- 高度なトラフィックバランシング機能
- 輻輳状況に応じた動的ロードバランシングに対応できること。
- RDMA対応のロードバランシングとパケットスプレー機能
- リモートダイレクトメモリアクセス(RDMA)に対応し、複数経路へのパケット分散が可能であること。
AIワークロード向けネットワークでは、データフローを特定経路に固定する「静的ピニング」により、通信速度や応答時間を安定させることができる。一方で、その運用には高度な監視体制が欠かせず、管理層に以下のような機能が必要となる。
- 迅速なアラート、診断、修復機能
- 問題発生時に即座に通知し、原因特定から対応まで迅速に実施できること
- きめ細かいテレメトリー(可視性)
- サブ秒(1秒未満)や100ミリ秒未満の間隔で詳細なデータが取得できることで、トラブルシューティングや現場状況の把握が容易になること
- リアルタイム監視と履歴レポート機能
- 帯域利用率、パケットロス、レイテンシ、ジッター(レイテンシのばらつき)といった指標を、サブ秒単位で監視および通知できること。その履歴を蓄積して後から確認できること。
Computer Weekly発 世界に学ぶIT導入・活用術
米国Informa TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] APIを資産化して再利用、旭化成ホームズに学ぶシステム連携コストの削減方法 -
事例
[横河レンタ・リース株式会社] 「Wi-Fiにつながらない」「会議中に途切れる」の原因を切り分けやすくするには -
技術文書・技術解説
[アトラシアン株式会社] AIを導入で終わらせない、個人の利用から組織の成果に変えるリーダーの実践指針 -
製品資料
[アトラシアン株式会社] 生成AIの全社展開とROI最大化を阻む“ナレッジの壁” 突破するための4ステップ -
製品資料
[株式会社Helpfeel] コールセンター長を悩ませる「4大課題」と解決策
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
2
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
3
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
4
「プロンプトインジェクション」の適切なリスク対策はどれ?
-
5
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
6
「Copilot利用率99%」デンソー驚異の定着術 3万人を動かした“社長賞”の舞台裏
-
7
AI利用時に情報漏えいが起きた場合の適切な対応はどれ?
-
8
冷凍庫が一晩で50℃に 仏約700拠点を襲ったOT攻撃、侵入口は「遠隔管理」
-
9
「Azure OpenAIなど生成AI」に関するアンケート
-
10
IBM iのブラックボックス化を打破 資産継承と進化を実現する「IBM Bob」の実力
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
「Microsoft 365」徹底解説ガイド テレワーク時代のセキュリティ対策編
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー