GPUはクラウドかオンプレミスか【後編】
「クラウドGPU」と「オンプレミスGPU」のどちらが“正しい選択”なのか?
GPU(グラフィックス処理装置)の価格高騰や供給不足を背景に、GPUをクラウドサービスで利用する方法に注目が集まっている。GPUをオンプレミスインフラに設置する場合に比べてメリットはあるのか。
「GPU」(グラフィックス処理装置)をオンデマンドで(要求に応じて)提供するクラウドサービス「GPUaaS」(GPU as a Service)市場が活気づいている。近年、GPUはAI(人工知能)技術の需要増加によって供給が不足し、価格が高騰傾向にある。そこで、必要なGPUリソースのみを利用できるGPUaaSへの期待が高まっている。
だがGPUaaSがどのような場合にも適するとは限らない。「ユーザー企業にとってはGPUをオンプレミスインフラに置くことも一つの選択肢になる」と、調査会社Futurum Groupのアナリスト、ラス・フェローズ氏は指摘する。GPUを使う場合、クラウドサービスとオンプレミスインフラのどちらを選択すべきなのか。
GPUはどこに置くべきか?
併せて読みたいお薦め記事
連載:GPUはクラウドかオンプレミスか
併せて読みたいお薦め記事
AIを動かすインフラ
ユーザー企業はGPUを使用する目的や計画を検討すべきだ。「大規模なGPUクラスタが本当に必要になるのは、トレーニングや調整(ファインチューニング)といった限られた用途だ」とフェローズ氏は述べる
オンプレミスインフラにGPUクラスタを構築するか、GPUaaSを利用するかを判断する前に、ユーザー企業はユースケースを検討する必要があると、調査会社Gartnerのアナリスト、チラグ・デカテ氏は指摘する。「ユーザー企業はGPUを何に使うのか、ROI(投資対効果)はどうなるか、そのシステムによってどのような効果を得られるのかを自問すべきだ」(デカテ氏)
「GPUが供給不足であるという不安から、ユーザー企業は『GPUを余分に調達しなければならない』と考えがちであり、それが供給不足に拍車を掛けることがある」とデカテ氏は指摘する。同氏によればほとんどの企業は大量のハイエンドGPUがなくても、生成AIを利用できる。例えば小規模言語モデル(SLM)は、自然言語を使用するが、大規模言語モデル(LLM)よりもパラメーター(モデルの振る舞いを決定する変数)が少なく、「CPU」(中央処理装置)で実行できる。
デカテ氏は「ユーザー企業は、GPUクラスタを立ち上げ、維持する難しさを過小評価しがちだ」とも指摘する。GPUクラスタの立ち上げや維持には、固有のスキルセットが必要になる。GPUは部品、メモリ、ドライバに関する不具合が発生することがあり、取り扱いには専門性が求められる。「一部の故障では、ノード(サーバ)を再起動するだけで復旧するが、部品が故障していると、そうはいかない」(同氏)
生成AIブームが終わった後
「GPUが将来にわたって入手困難とは限らない」と、フェローズ氏は見る。今後数年は供給不足が続く可能性があるが、過去データでトレーニング済みの既存LLMをベースに新しいLLMが構築されるようになれば、トレーニングにこれまでのような大量のGPUは必要なくなるからだ。「トレーニングの蓄積が生かされるため、新規のトレーニングに必要なGPUはこれまでより少なくなるだろう」(フェローズ氏)
さらにフェローズ氏は、推論やSLMに必要なGPUが少なくなるとの見方も示す。「どのユーザー企業にも100個のGPUが必要かと言えば、そんなことはない。小規模企業は1、2個のGPUで十分な場合がある。GPUの性能が向上し続ければ、中規模企業でも2つか3つの8ノードクラスタでやっていける可能性がある」(フェローズ氏)
フェローズ氏によると使用するデータ規模や、サービスの使用目的によっては、GPUaaSが効果的な場合がある。バッチング(大規模データセットを分割してトレーニングの改善を図る)など継続的な作業がないプロセスにはGPUaaSが適している可能性があるという。
TechTarget発 先取りITトレンド
米国Informa TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[ファインディ株式会社] AI利用率だけでは説明できない成果 開発組織の競争力を生む「開発資本」とは? -
製品資料
[ニュータニックス・ジャパン合同会社] AI活用を成功へ導く、シンプルで費用対効果に優れたクラウド基盤とは? -
製品資料
[ニュータニックス・ジャパン合同会社] マネージドKubernetesには限界も――メリットをフル活用する新たな選択肢とは? -
技術文書・技術解説
[ニュータニックス・ジャパン合同会社] 決断の日が迫る「vSphere 8」サポート終了問題 考慮すべきリスクと選択肢は? -
製品資料
[サイバーソリューションズ株式会社] メール誤送信対策のルールが肥大化 苦しむ情シスはどうすれば救われるのか?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
2
「Wi-Fi 7」経由でWindowsが乗っ取られる? 最高権限奪取の恐怖
-
3
「アップグレードできないJava」をどう守る IBMとRed HatがAIで400件超修正
-
4
パッチなしで「今すぐサーバを落とせ」 Kiteworks異例警告の波紋
-
5
「サイバー犯罪株式会社」に潜入 現地調査で判明した“犯罪者求人”の実態
-
6
「企業におけるAI導入検討度とIT投資優先度」に関するアンケート
-
7
kintoneで実践 製造業のための「見積もり管理」改善のヒント
-
8
祝10周年! 創業者も予想できなかったRaspberry Pi活用例
-
9
リモート入社時研修が労使双方に与える苦悩 大量退職を避けるには?
-
10
「IoT通信環境の構築・運用」に関するアンケート
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
2
家庭用Wi-Fiルーターの業務利用は危険? 避けるべき理由と具体的な対策
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
システムの保守がモダン化を阻む? 「変えない判断」から脱却する方法とは
-
5
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
-
6
最速72分でデータが流出? 最新の脅威トレンドや侵入手法から分かった防衛策
-
7
「IT史に名を残すシステム障害」8選
-
8
Linux初心者でも知らないとまずい「RHEL」「SLES」の違いとは?
-
9
東大教授と考える、AI時代の「データ主権」「信頼性」「ガバナンス」の在り方
-
10
マンガで学ぶXDR/MDRのメリット、中小企業のセキュリティ強化になぜ有効か?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー