「GPUがCPUよりAI向き」な理由は驚くほど単純だった：AI向けGPUの正しい基礎知識【前編】
グラフィックスを処理するために使われてきた「GPU」は、AI関連のタスクを実行するための不可欠な存在となっている。GPUのどのような仕組みが生かされているのか。CPUとの仕組みの違いを踏まえて考えてみよう。
グラフィックスのレンダリング（画像や映像を描画するプロセス）用で使われてきた「GPU」（グラフィックス処理装置）は、近年は人工知能（AI）分野で重宝されている。GPUがCPUよりも圧倒的にAI関連に向いているのはなぜなのか。一口にGPUと言っても全てが同じように設計されているわけではないが、どのGPUにも共通する“ある点”がAI分野で役立っている。
CPUとGPUの単純な違い
併せて読みたいお薦め記事
AI用プロセッサ活用のポイント
- CPU、GPU、TPU、NPUは何が違い、AI処理でどう役立つのか？
- AIモデルを「GPU」で作るのに“町1つ分”の電力が必要という話は本当？
- NVIDIAを大解剖 GPUベンダーはいかにして「AI半導体の雄」になったのか？
全てのAIワークロード（AI技術に関連する計算処理などの一連のタスク）に適するたった1つのGPUを選定することはできない。それぞれのAIワークロードの特性に応じたGPUを使用することが重要になる。
機械学習モデルは、膨大な量の計算を重ねることでトレーニングをする。一つ一つの計算は小さくて単純なものであったとしても、それが積み重なると膨大な手間がかかる。CPUで1つの計算を終えてから次の計算を始めるような「逐次処理」の仕方をしていると、計算量が膨大になるほど時間がかかる。
そこでGPUの出番だ。GPUは並列処理を得意としており、多数の計算を同時に実行することができる。GPUのその効率性は、数千というコア（演算処理を担うユニット）で構成されるアーキテクチャによるものだ。各コアは独立して演算処理ができる。
並列処理を得意とするGPUとは対照的に、CPUが搭載するコアは多くても数十個程度となっている。GPUとCPUのこの違いは、大量の計算を同時に実行する際の効率性においては大きな差になる。だからといって、「CPUには十分な計算能力がない」というわけではない。得意とするタスクが異なるということであり、CPUはコア数がGPUよりもかなり少ないために、GPUほど効率的に並列処理を実行することができないということだ。
GPUは、AIモデルのトレーニングにも、トレーニングされたAIモデルの推論（実世界のデータを使って予測や判断をするプロセス）にも使える。推論においてGPUとCPUの間にどれだけの処理速度の違いが出るのかは、どれだけの量の計算を実行するのかによって異なる。全ての推論でGPUが最も適するわけではないが、GPUはトレーニングと同様に推論でも有効に活用できることは確かだ。
AIワークロードで考慮すべきGPUの性能
AIモデルのトレーニングや推論において、GPUのさまざまな特性が処理の効率性に影響する。AIワークロードを実行する際に考慮すべき要素としては、以下がある。
- 総コア数
- 何個のコアを搭載しているか
- 総メモリ容量
- メモリの容量がどれだけあるか
- メモリクロック数
- メモリがどれだけの速度でデータを読み書きするか
- GPUクロック数
- GPUがどれだけの速度で信号を扱えるか
- AI特化の最適化機能
- AI関連のタスクに特化したコンポーネントを搭載しているかどうか
各AIワークロードにおいてこれらの要素がそれぞれどの程度重要なのかによって、適したGPUは変わる。上記の点に加えて、以下の要素も検討することになるだろう。
- コスト
- ベンダーのサポート
- 発熱量
- 拡張スロットの適合性
GPU購入の代替案となるGPU-as-a-service
プロジェクトに適したGPUが分からない場合や、予算内でGPUの購入ができない場合は、GPUをサービスとして使う「GPU as a service」（GPUaaS）も有効な選択肢の一つになる。
GPUaaSは、オンデマンドでGPUのリソースを調達できるクラウドサービスの一種だ。クラウドベンダーは。さまざまなGPUの選択肢を提供しているので、AIワークロードの特性に応じて最適なGPUを使い分けることができる。
GPUaaSを利用すればGPUへの大規模な初期投資が不要となるため、AIモデルのトレーニングにはGPUを使用し、推論にはCPUを使用するなど、GPUを限定的にしか使用しない場合にも合理的な選択肢となる。
次回は、本稿で紹介したGPU選定時の要素を、より詳細に解説する。
TechTarget発 世界のインサイト＆ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.