「AIの返答が遅い」のはなぜか？ 既存ネットワークの限界とインフラ刷新の壁：A10調査で判明

企業の生成AI導入が急速に進む一方で、既存ネットワークの限界という深刻な痛みが立ちはだかっている。AIツールを介した機密データの漏えいや処理遅延など、見過ごせないリスクをどう乗り越えるべきか。

[TechTargetジャパン]

　企業における生成AIの実業務への導入が急速に進んでいる。一方で、AIツールが要求する膨大なデータ処理や急激な通信負荷の変動がIT部門を苦しめている。こうした負荷は、既存のネットワークやシステムでは処理しきれていないのが実情だ。

　A10 Networksが公開した「2025年版AIインフラの現状レポート」によると、多くの企業がAIツールを業務に利用しているものの、インフラの拡張性不足や通信遅延がAIツールの性能を低下させる大きな障壁となっている。従来のデータ処理を中心としたネットワークシステムでは、AIツール特有の巨大なワークロードを遅延なく処理することが難しい。

　社内の機密データがAIツールを通じて外部へ漏えいするリスクも浮き彫りになった。セキュリティ担当者は、従来の防御ツールではAIツールの特殊な通信パターンを検査できないという運用の限界を抱えている。こうした課題を解消し、安全かつ迅速なAI活用による恩恵をあずかるため、大半の企業が近い将来のインフラ刷新を計画している。

　企業の競争力を左右するAIインフラの刷新に向け、先進的な企業はどのようなシステム構成や技術を重視しているのか。詳細な調査データから読み解く。

“時代遅れのインフラ”への警告

併せて読みたいお薦め記事

ネットワークが迎える限界

• 2030年にネットワークが“限界”を迎える　通信事業者の切実な悩み
• 「従来型ネットワーク」の限界が来ている6つの理由　Ciscoが調査

　本調査は、テクノロジー、医療、金融サービス、製造、教育などの業界におけるIT運用やサイバーセキュリティの担当者から経営幹部までを対象に実施された。調査結果を詳しく見ると、AIツールの普及度合いや直面する課題について複数の傾向が確認できる。

AIインフラの構成とパフォーマンスの壁

　AIワークロードを扱うシステム構成として、オンプレミスシステムとパブリッククラウドを併用するハイブリッドクラウド構成を採用する企業が42％を占めた。次いで自由度が高いパブリッククラウドが35％だった。需要の急増に伴う大規模な拡張が必要になった際、37％がパブリッククラウドにコンピューティングリソースを移行させると回答しており、大規模なAIワークロードを支えるにはパブリッククラウドの自由度の高さが不可欠となっている。

　一方で、AIツールが要求する性能や低遅延を既存のインフラが満たせるかどうかについては、「非常に自信がある」と答えたのは13％に過ぎない。パフォーマンスのボトルネックとして、CPUやGPUなどの計算能力の制限を指摘する声が33％に達している。インフラの自動拡張機能を完全に実装済みの企業は19％にとどまり、需要の波に合わせた動的な負荷の処理が難しい状況が浮き彫りになった。

　AIツールのパフォーマンスを最適化するために、42％の企業が専用の高帯域幅リンクなど高パフォーマンスのネットワークを利用している。38％がAIツールのトラフィック向けに調整された高度なロードバランサーを活用し、通信の遅延軽減に努めている。

セキュリティの限界とAPI保護の重要性

　調査対象の49％がインフラにおける最大の課題としてセキュリティの制約を挙げた。具体的には、AIツールが機密データへアクセスすることによるデータ漏えいや、既存のセキュリティツールではAIツール特有のトラフィックパターンを検査できないといった問題が懸念されている。

　こうした課題に対し、AIモデルやその学習用データ向けに、厳格なデータガバナンスとアクセス制御を実装すると答えた企業が55％に上る。インフラ刷新を計画する企業の60％が、AIツール用のファイアウォールやAPIセキュリティなど、セキュリティ対策を最優先事項として挙げた。回答者の40％がAPIセキュリティを導入すべき最も重要な仕組みだと捉えており、AIモデルの学習やアプリケーションの連携においてAPIは中心的な役割を担うという認識が浸透していることがうかがえる。

一元化されたインフラと今後の展望

　AIインフラの刷新を阻む最大の障壁は「予算の制約や費用」（30％）だ。「熟練した人材の不足」（18％）や「最適な技術の選定が困難」（17％）といった人材や技術的なハードルもある。既存のアプリケーション配信システムでAIワークロードを「余裕を持って処理できる」と答えたのは16％のみであり、多くの企業が運用に不安を抱えている。

　こうした複雑な課題を解消するため、回答者の62％が単一の機能を提供する製品よりも、一元化された戦略を持つベンダーを選好している。個別ツールの組み合わせは運用部門の手間を増大させるため、一貫した性能とセキュリティを提供できる総合的なインフラへの移行が進むとみられる。

　企業は今後、コンピューティング、ストレージ、ネットワーク通信、データガバナンスを含む全階層にわたってインフラを刷新することが求められる。金融や医療といった業界独自の規制要件に適合させるために、インフラのシステム構成をカスタマイズすることも重要だ。AIツールの活用が企業競争力を左右する中、将来の技術革新を見据えた長期的なインフラの最新化は、避けて通れない重要な経営課題だと言える。