GPUはクラウドかオンプレミスか【後編】
「クラウドGPU」と「オンプレミスGPU」のどちらが“正しい選択”なのか？
GPU（グラフィックス処理装置）の価格高騰や供給不足を背景に、GPUをクラウドサービスで利用する方法に注目が集まっている。GPUをオンプレミスインフラに設置する場合に比べてメリットはあるのか。
「GPU」（グラフィックス処理装置）をオンデマンドで（要求に応じて）提供するクラウドサービス「GPUaaS」（GPU as a Service）市場が活気づいている。近年、GPUはAI（人工知能）技術の需要増加によって供給が不足し、価格が高騰傾向にある。そこで、必要なGPUリソースのみを利用できるGPUaaSへの期待が高まっている。
だがGPUaaSがどのような場合にも適するとは限らない。「ユーザー企業にとってはGPUをオンプレミスインフラに置くことも一つの選択肢になる」と、調査会社Futurum Groupのアナリスト、ラス・フェローズ氏は指摘する。GPUを使う場合、クラウドサービスとオンプレミスインフラのどちらを選択すべきなのか。
GPUはどこに置くべきか？
併せて読みたいお薦め記事
連載：GPUはクラウドかオンプレミスか
併せて読みたいお薦め記事
AIを動かすインフラ
ユーザー企業はGPUを使用する目的や計画を検討すべきだ。「大規模なGPUクラスタが本当に必要になるのは、トレーニングや調整（ファインチューニング）といった限られた用途だ」とフェローズ氏は述べる
オンプレミスインフラにGPUクラスタを構築するか、GPUaaSを利用するかを判断する前に、ユーザー企業はユースケースを検討する必要があると、調査会社Gartnerのアナリスト、チラグ・デカテ氏は指摘する。「ユーザー企業はGPUを何に使うのか、ROI（投資対効果）はどうなるか、そのシステムによってどのような効果を得られるのかを自問すべきだ」（デカテ氏）
「GPUが供給不足であるという不安から、ユーザー企業は『GPUを余分に調達しなければならない』と考えがちであり、それが供給不足に拍車を掛けることがある」とデカテ氏は指摘する。同氏によればほとんどの企業は大量のハイエンドGPUがなくても、生成AIを利用できる。例えば小規模言語モデル（SLM）は、自然言語を使用するが、大規模言語モデル（LLM）よりもパラメーター（モデルの振る舞いを決定する変数）が少なく、「CPU」（中央処理装置）で実行できる。
デカテ氏は「ユーザー企業は、GPUクラスタを立ち上げ、維持する難しさを過小評価しがちだ」とも指摘する。GPUクラスタの立ち上げや維持には、固有のスキルセットが必要になる。GPUは部品、メモリ、ドライバに関する不具合が発生することがあり、取り扱いには専門性が求められる。「一部の故障では、ノード（サーバ）を再起動するだけで復旧するが、部品が故障していると、そうはいかない」（同氏）
生成AIブームが終わった後
「GPUが将来にわたって入手困難とは限らない」と、フェローズ氏は見る。今後数年は供給不足が続く可能性があるが、過去データでトレーニング済みの既存LLMをベースに新しいLLMが構築されるようになれば、トレーニングにこれまでのような大量のGPUは必要なくなるからだ。「トレーニングの蓄積が生かされるため、新規のトレーニングに必要なGPUはこれまでより少なくなるだろう」（フェローズ氏）
さらにフェローズ氏は、推論やSLMに必要なGPUが少なくなるとの見方も示す。「どのユーザー企業にも100個のGPUが必要かと言えば、そんなことはない。小規模企業は1、2個のGPUで十分な場合がある。GPUの性能が向上し続ければ、中規模企業でも2つか3つの8ノードクラスタでやっていける可能性がある」（フェローズ氏）
フェローズ氏によると使用するデータ規模や、サービスの使用目的によっては、GPUaaSが効果的な場合がある。バッチング（大規模データセットを分割してトレーニングの改善を図る）など継続的な作業がないプロセスにはGPUaaSが適している可能性があるという。
TechTarget発 先取りITトレンド
米国Informa TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[SCSK株式会社] 「Dropbox」管理・運用の困りごと解決ガイド -
事例
[SCSK株式会社] 東急建設や朝日放送など4事例に学ぶ、クラウドストレージ移行のポイント -
製品レビュー
[株式会社シーイーシー] 脱VMwareは単なる移行で終わるのか？ 後悔しない次世代基盤の選び方とは -
市場調査・トレンド
[株式会社日立ソリューションズ] クラウド型ストレージと文書管理システム、その使い分け方とは？ -
市場調査・トレンド
[グーグル・クラウド・ジャパン合同会社] AIの悪用でサイバー攻撃が加速、インシデント調査で判明した脅威の実態と防衛策
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「生成AIの導入・活用」に関するアンケート
-
2
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
3
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
4
Claude利用8割のGMO、AI人材の評価軸が「トークン管理」に変わった
-
5
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
6
Microsoft月例パッチ1400件超で過去最多 「限界点」を迎えたパッチ管理
-
7
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
8
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
9
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
10
「テザリング依存」に潜む落とし穴 “遅いVPN”を解消するネット構築術
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
2026年のサイバーセキュリティには何が必要か？ 最新データに学ぶ傾向と対策
-
3
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
4
「IT史に名を残すシステム障害」8選
-
5
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
6
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
7
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
9
「標的型攻撃メール」事例・サンプル集
-
10
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー