AIインフラはGPUだけじゃない ネットワークに必要な「3つの要素」AIに必要なネットワーク【前編】

さまざまな企業がAI技術を利用するようになった。プロセッサの性能が重要なのと同様に、ネットワークの性能もAI技術の処理に直結する。

2024年07月25日 07時00分 公開
[Andrew FroehlichTechTarget]

 AI(人工知能)技術の台頭を受けて、AIワークロード(AI技術を組み込んだシステム)とその学習に使用するデータを処理するための、強力で効率的なネットワークが重要となっている。AIワークロードを効率的に処理するには、一般的なデータセンターとは異なるネットワークが必要だ。主に3つの要素を考慮する必要がある。

AIに必要な「ネットワークの3つの要素」とは

 AIワークロードを効率的に処理するネットワークには以下が求められる。

低レイテンシと高スループット

 AI技術による学習や推論の過程では、膨大なデータがネットワークを通じて頻繁に移動するため、ネットワークの性能が処理能力に直接影響を与える。そのため通常のワークロードよりも低いレイテンシ(遅延)と高速なスループット(実際の転送されるデータ量)が求められる。

水平方向への拡張性

 学習データは、ネットワークで相互接続された複数のサーバおよびGPU(グラフィックス処理装置)で同時に処理するため、必要なネットワーク接続の数は一般的なデータセンターのワークロードの何倍にもなることがある。ネットワークアーキテクチャとしては、水平方向にネットワークスイッチを拡張していく形になる。ネットワークスイッチには、全てのポートで仕様通りの帯域幅が使える「ノンブロッキングスイッチ」であることが求められる。

信頼性

 AIワークロードは膨大なリソースとデータを扱うため、ネットワークの停止や処理性能の低下はコストを考慮すると可能な限り防ぐのが望ましい。計算処理にも一定の時間を要するため、ネットワークに障害が発生しにくい信頼性も求められる。

 ネットワークのトラブルは手動で設定作業をしている時に発生しがちだ。AIワークロード向けネットワークの運用においては、可能な限り人手による作業を排除する。レジリエント(耐障害性が高い)かつ、トラブルが起きても復旧に時間を可能な限り必要としない設計が求められる。

 AIワークロードをサポートするために、ネットワークエンジニアはこれらの特有の要件を満たすようにネットワークを設計する必要がある。プロトコルやアーキテクチャ、ネットワーク管理ツールも従来とは違う視点で考えるべきだ。


 次回は実際にAIワークロードを処理するためのネットワークを設計する時のポイントを解説する。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

鬮ォ�エ�ス�ス�ス�ス�ス�ー鬯ィ�セ�ス�ケ�ス縺、ツ€鬩幢ス「隴取得�ス�ク陷エ�・�ス�。鬩幢ス「�ス�ァ�ス�ス�ス�、鬩幢ス「隴主�讓滂ソス�ス�ス�ス鬩幢ス「隴趣ス「�ス�ス�ス�シ鬩幢ス「隴乗��ス�サ�ス�」�ス�ス�ス�ス

製品レビュー 富士フイルムビジネスイノベーション株式会社

会社のWi-Fiあるある問題、「なんとなく」を卒業しWi-Fiを快適・安全にするには

企業のWi-Fiにおいて、適切な環境設定がされていなかったり、トラブル対応が属人化していたりと管理体制が不十分なケースは多い。Wi-Fiの設定が安全性にどう影響するのだろうか。“Wi-Fiあるある”として6つのケースを紹介する。

技術文書・技術解説 アマゾン ウェブ サービス ジャパン 合同会社

プライベートサブネット内リソースを生成AIサービスと連携させる方法

クラウドベースのAIエージェント開発において、プライベート空間内のリソースとAIサービスとの連携方法が分からないという声がしばしば聞かれる。この疑問に応えるべく、両者のAPI連携の方法を、ステップバイステップで解説する。

プレミアムコンテンツ アイティメディア株式会社

エンジニアが学ぶべき「ネットワークの基礎」はこれだ

ネットワークはあらゆるITシステムの基盤であり、IT担当者は専門分野を問わず、ネットワークの基本的な知識を習得する必要がある。IT担当者が学ぶべきネットワークの基礎知識と、基礎を学べる認定資格とは。

技術文書・技術解説 アイティメディア広告企画(2025年02-03月ネットワークセキュリティ特集)

「SD-WAN選び」で失敗しない 押さえておくべきポイント5選

SD-WAN(ソフトウェア定義型WAN)を導入する際はどのような観点で製品を選べばいいのか。メリットやデメリットなど押さえておくべき5つのポイントを紹介する。

プレミアムコンテンツ アイティメディア広告企画(2025年02-03月ネットワークセキュリティ特集)

ADCの役割に変化 新たな役割や機能をおさらい

ロードバランサーから進化した「ADC」(アプリケーションデリバリーコントローラー)は、負荷分散にとどまらない、さまざまな機能を追加し続けている。充実するADCの機能をおさらいしよう。

アイティメディアからのお知らせ

From Informa TechTarget

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。

ITmedia マーケティング新着記事

news017.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news027.png

「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。

news023.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...