AIに必要なネットワーク【前編】
AIインフラはGPUだけじゃない ネットワークに必要な「3つの要素」
さまざまな企業がAI技術を利用するようになった。プロセッサの性能が重要なのと同様に、ネットワークの性能もAI技術の処理に直結する。
AI(人工知能)技術の台頭を受けて、AIワークロード(AI技術を組み込んだシステム)とその学習に使用するデータを処理するための、強力で効率的なネットワークが重要となっている。AIワークロードを効率的に処理するには、一般的なデータセンターとは異なるネットワークが必要だ。主に3つの要素を考慮する必要がある。
AIに必要な「ネットワークの3つの要素」とは
AIワークロードを効率的に処理するネットワークには以下が求められる。
低レイテンシと高スループット
AI技術による学習や推論の過程では、膨大なデータがネットワークを通じて頻繁に移動するため、ネットワークの性能が処理能力に直接影響を与える。そのため通常のワークロードよりも低いレイテンシ(遅延)と高速なスループット(実際の転送されるデータ量)が求められる。
水平方向への拡張性
学習データは、ネットワークで相互接続された複数のサーバおよびGPU(グラフィックス処理装置)で同時に処理するため、必要なネットワーク接続の数は一般的なデータセンターのワークロードの何倍にもなることがある。ネットワークアーキテクチャとしては、水平方向にネットワークスイッチを拡張していく形になる。ネットワークスイッチには、全てのポートで仕様通りの帯域幅が使える「ノンブロッキングスイッチ」であることが求められる。
信頼性
AIワークロードは膨大なリソースとデータを扱うため、ネットワークの停止や処理性能の低下はコストを考慮すると可能な限り防ぐのが望ましい。計算処理にも一定の時間を要するため、ネットワークに障害が発生しにくい信頼性も求められる。
ネットワークのトラブルは手動で設定作業をしている時に発生しがちだ。AIワークロード向けネットワークの運用においては、可能な限り人手による作業を排除する。レジリエント(耐障害性が高い)かつ、トラブルが起きても復旧に時間を可能な限り必要としない設計が求められる。
AIワークロードをサポートするために、ネットワークエンジニアはこれらの特有の要件を満たすようにネットワークを設計する必要がある。プロトコルやアーキテクチャ、ネットワーク管理ツールも従来とは違う視点で考えるべきだ。
次回は実際にAIワークロードを処理するためのネットワークを設計する時のポイントを解説する。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[Jamf Japan 合同会社] MDMだけでモバイルセキュリティは十分? 不足する対策を16項目でチェック -
製品資料
[株式会社ウェーブスプリッタ・ジャパン] 100Gbps対応の光トランシーバーはどう選ぶ? 10分で分かる選定のポイント -
製品資料
[株式会社フィックスターズ] 組み込み開発の生産性と機密性を両立、自社環境で構築する「セキュアAI」活用術 -
製品レビュー
[ServiceNow Japan合同会社] 問い合わせの約9割を自動で解決、AI主導の自律型CRMがもたらす業務変革の全貌 -
市場調査・トレンド
[ServiceNow Japan合同会社] AI活用が業務自動化で止まる理由は何か? 調査で判明した課題と変革への道筋
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
AI全部入り「Microsoft 365 E7」に企業が二の足を踏む訳 移行意向はわずか4%
-
2
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
3
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
4
「VMware離れ」は本当か 3000社がVCF 9にかじを切った現実的な理由
-
5
エンジニアが選考を辞退する本当の理由 7割が隠す“面接の違和感”とは
-
6
【基本情報技術者試験】「デュプレックスシステム」と「デュアルシステム」の違いは?
-
7
マンガで解説:採択率は3割台? デジタル化・AI導入補助金申請の落とし穴
-
8
AWS障害でも補償ゼロの衝撃 サイバー保険で情シスが見落とす「細則の壁」
-
9
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
10
「Microsoft一択」で本当にいいのか 知らぬ間にライセンス費用が膨らむ真相
ホワイトペーパーランキング PR
-
1
生成AIのハルシネーションを防止 回答精度を高めるセマンティックレイヤーとは
-
2
5回聞くだけじゃ足りない? トヨタ式「なぜなぜ分析」の正しい実践方法
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
5
「脱Excel」か「Excel快適化」か? 現場にやさしい業務改善の進め方
-
6
マンガで解説:「ゼロトラスト」「SASE」の必要性とメリット
-
7
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
8
情報セキュリティ対策早分かりガイド:25の自社診断で弱点と解決策を理解
-
9
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは?
-
10
AIが「わざわざ使うツール」になっていない? 業務で自然に使う導線にする秘訣
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー