AI導入の成否を分ける
AI安定稼働の鍵は「可観測性」(オブザーバビリティ) 主要ツールを紹介
AIツールの性能はGPUだけでは決まらない。裏側にあるネットワークが、AIツールの応答速度を著しく低下させていることがある。AIツールの真の力を引き出すために不可欠な「可観測性」とは何か。
AI(人工知能)技術の活用が本格化している現代は、急速な技術革新と激しい市場競争が起こっている。企業や研究機関のAI技術導入が加速するにつれて、ネットワークに対してこれまでにはなかった要件が求められるようになった。「AIの真の力」を引き出すために、ネットワーク管理者が重視すべき「可観測性」(オブザーバビリティ)と、それを強化するためのツールや技術を解説する。
可観測性が「AI導入プロジェクト」の成否を左右する
AI技術の革新の成否は、状況に応じて自律的に動作し、応答性に優れ、末端から末端まで(エンドツーエンド)の状況を正確に把握できるネットワークにかかっている。巨大IT企業をはじめとする各社は、OpenAIが主導する「Stargate」やxAIが主導する「Colossus」のような、大規模AIスーパーコンピュータの構築を目指すプロジェクトで成功を収めようとしのぎを削っている。
インフラの拡大に伴い、ネットワークエンジニアは変化し続ける要求に応えるため、新しい手法を取り入れなければならない。AIに関連するワークロードは、トレーニングからリアルタイム推論まで多岐にわたる。これらは膨大なデータを生成し、低遅延通信を強く要求する。そのため、さまざまな場所に分散したコンピューティングシステム内で、いかにデータをスムーズに移動させるかが成功の鍵となる。
一方でAI技術を活用したシステムは、ネットワーク管理者に新たな課題をもたらす。GPU(グラフィックス処理ユニット)の性能の限界、複数のクラウドサービスを組み合わせた「マルチクラウド」の管理、予測が難しいデータセンター内のサーバ間通信(East-Westトラフィック)といった複雑な問題には、現代的かつ包括的なアプローチでネットワークの可観測性を高めていく必要がある。
最新の可観測性ツールを導入し、高度な監視体制を整え、確立されたベストプラクティスに従うことで、企業は大規模なAIシステムを円滑かつ安全に運用できるようになる。ネットワーク全体の可視化は、もはや単なる付加価値ではない。エンドユーザーの要求がインフラの性能を左右する、競争が激しいIT業界において、次世代の自律的なシステムを構築するための重要な要件になっている。
エンドツーエンドの可観測性を実現するアーキテクチャ
AI関連処理の需要が急拡大する中、ネットワーク管理者は日々ネットワークインフラの増強に取り組んでいる。AI技術がもたらす複雑な課題に対処するには、データ処理の始まりから終わりまで、システム全体を一つの流れとして捉える「エンドツーエンドの可観測性」という考え方が欠かせない。
理想的な可観測性の仕組みとは、システムの全階層(レイヤー)を接続し、AIシステムのパフォーマンスやセキュリティ、稼働状況をリアルタイムで明確に把握できるようにするものだ。この仕組みは、データセンターやパブリック/プライベートクラウド、エッジコンピューティングのノードなど、AI処理に関わる全ての重要な拠点を網羅する必要がある。
まず、データセンターがAIワークロードを十分に処理できる能力を備えていることが前提になる。特に、計算処理を担うコンピューティングサーバとストレージシステム間の低遅延接続は、AIワークロードにとって極めて重要だ。可観測性ツールには、輻輳(ふくそう)や遅延の急増、データ損失をリアルタイムで検出する能力が求められる。こうしたツールは、複雑なAI システムにおいてネットワーク担当者が性能と可視性を維持する助けとなる。
クラウドサービスでは、AIワークロードがコンテナやマイクロサービスといったクラウドネイティブな技術に大きく依存していることを考慮する必要がある。そのため、サービス間の通信状況や仮想ネットワーク、クラウドサービスが発信するテレメトリー(遠隔情報収集)を詳細に分析できることが、可観測性の要件になる。
最後に、エッジデバイスの可観測性も不可欠だ。現場のデバイスのパフォーマンス、中心となるコアシステムへのネットワーク経路を監視することによって、エッジデバイスと中央集権型のシステムとの間で効率的な通信を確立できる。
AIネットワーク向けの可観測性ツール
AIシステムで用いるネットワークの要求に応えるツールや技術は複数存在する。これらのツールは、単なる監視機能にとどまらない、以下に示す高度な能力を備えている。
- ストリーミングテレメトリー
- ネットワーク機器からリアルタイムで稼働データを収集し、異常検知を高速化する。
- AI技術によるネットワーク分析
- AI技術を用いて過去のデータやリアルタイムの指標からパターンを学習し、パフォーマンスの問題を予測する。
- パケットブローカーとDPI(ディープパケットインスペクション)
- ネットワークを流れるパケットを詳細に調査し、AIシステム特有の通信パターンを分析することによって、性能低下の原因となっているボトルネック特定する。
- 既存のネットワーク管理システムとの連携
- 可観測性ツールは、既存のネットワーク管理ツールや自動化ツールとスムーズに連携できなければならない。これによって情報を一元化し、問題解決の迅速化を促す。
以下は、AIワークロードの監視に利用できる代表的なネットワーク可観測性ツールだ。
| ツール/サービス名 | 機能 | 主な用途 | AIワークロードとの関連性 |
|---|---|---|---|
| AppDynamics | アプリケーション性能監視 | マイクロサービス全体の性能を追跡する | コンテナ化されたクラウドネイティブなAIアプリケーションの監視に有効 |
| Cisco Nexus Dashboard Insights | データセンターのテレメトリー分析 | Ciscoが提唱するネットワーク自動化インフラ(ACI)において、障害の予兆を検出、警告する | コンピューティングサーバとストレージシステム間の安定した低遅延通信を維持するのに有効 |
| Cisco ThousandEyes | ネットワークパフォーマンス監視 | 社内LANからインターネット経由でクラウドサービスに接続する際の通信経路を可視化し、遅延やデータ損失、障害を検出する | 複雑なインフラでAIワークロードのリアルタイム処理を実現するために有効 |
| Elastic Stack(ELK Stack) | ログ分析、検索 | 複数システムからログを収集、分析して問題解決を支援する | AIワークロードにおける障害、AIモデルのエラー、インフラの問題の検出を支援 |
| Grafana | 監視データの可視化 | ネットワーク、サービス、インフラの稼働状況に関するデータをダッシュボードで可視化する | GPUの使用率、サービスの応答遅延、AIモデルの性能などを監視するためダッシュボードを独自に構築可能 |
| Prometheus | メトリクス(指標)の監視、アラート通知 | コンテナオーケストレーションツール「Kubernetes」管理下のシステムで稼働中のAIワークロードを監視する | コンテナの稼働状況、GPU使用率、メモリとCPUの使用量を可視化 |
これらのツールを連携させる上で重要な役割を果たすのが、オープン標準規格「OpenTelemetry」だ。これはシステムからテレメトリーデータを収集する方法を標準化するもので、特定の製品に依存しない、一貫したデータ収集を実現する。
エンドツーエンド可観測性のベストプラクティス
企業のAI技術導入を成功に導くためには、信頼性の高いネットワーク可観測性が重要になる。AIワークロードに関するネットワーク可観測性を高めるには、明確な戦略が不可欠だ。そのための主要なベストプラクティスを以下に紹介する。
- 複数階層で可観測性を確保する
- AIワークロードの通信を詳細に分析するためには、ネットワーク層だけではなく、アプリケーション層やトランスポート層といった複数の階層を監視することが不可欠だ。
- パフォーマンスの基準値を設定する
- 平常時のAIワークロードの処理性能を基準値として確立しておくことが重要だ。これによって異常な状態を特定し、通信経路やコンピューティングリソース配分を最適化できるとともに、管理の改善にもつながる。
- アラート通知と復旧を自動化する
- 日々無数に発生するネットワーク関連イベントが発生する。AI技術を活用したアラート通知と障害復旧の自動化の仕組みを導入することで、人手を介さずに迅速な対処が可能になる。
- オープン標準規格とAPI(アプリケーションプログラミングインタフェース)の採用
- OpenTelemetryなどのオープン標準規格に準拠したツールを選ぶことが重要だ。将来の拡張に備えて、自由度が高いAPIを備えているツールであることが望ましい。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
TechTarget グローバルインサイト
米国Informa TechTargetが発信する記事を翻訳し、国内向けに分かりやすく紹介します。最新の海外動向や先進事例を取り上げ、グローバルなITトレンドを把握できる連載です。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[株式会社グローバルウェイ] 事例に学ぶ、マルチAIエージェント基盤による製造業DXの実現方法 -
事例
[株式会社グローバルウェイ] ポリプラスチックスに学ぶERP刷新 開発を大幅に効率化したアプローチとは? -
製品資料
[株式会社バッファロー] テナント入居時の落とし穴 節約のための「家庭用Wi-Fiルーター利用」がNGな訳 -
製品資料
[株式会社ネットワールド] サプライチェーンのリスク対応は急務 いま中小企業に必要なセキュリティ対策は -
製品資料
[パーソルクロステクノロジー株式会社] 失敗しない、「DXコンサルティング」活用ノウハウ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
-
3
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
4
NVIDIA「一強体制」の終わりか データセンターを襲う“電力の壁”
-
5
AI時代のITインフラ変革 ネットワークの重要性と「予測をやめる投資」とは
-
6
「ランサムウェア対策製品」選びに失敗しない“4つのチェックポイント”
-
7
マイナビが挑む「有線・無線LAN、WANのクラウド統合管理」
-
8
「会議・ミーティング」に関するアンケート
-
9
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
10
脱VMwareで悩む中小企業のための“目からうろこの選択肢”とは
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
5
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
6
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
-
10
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー