全てのAIワークロード（AI技術に関連する計算処理などの一連のタスク）に適するたった1つのGPUを選定することはできない。それぞれのAIワークロードの特性に応じたGPUを使用することが重要になる。

　機械学習モデルは、膨大な量の計算を重ねることでトレーニングをする。一つ一つの計算は小さくて単純なものであったとしても、それが積み重なると膨大な手間がかかる。CPUで1つの計算を終えてから次の計算を始めるような「逐次処理」の仕方をしていると、計算量が膨大になるほど時間がかかる。

　そこでGPUの出番だ。GPUは並列処理を得意としており、多数の計算を同時に実行することができる。GPUのその効率性は、数千というコア（演算処理を担うユニット）で構成されるアーキテクチャによるものだ。各コアは独立して演算処理ができる。

　並列処理を得意とするGPUとは対照的に、CPUが搭載するコアは多くても数十個程度となっている。GPUとCPUのこの違いは、大量の計算を同時に実行する際の効率性においては大きな差になる。だからといって、「CPUには十分な計算能力がない」というわけではない。得意とするタスクが異なるということであり、CPUはコア数がGPUよりもかなり少ないために、GPUほど効率的に並列処理を実行することができないということだ。

　GPUは、AIモデルのトレーニングにも、トレーニングされたAIモデルの推論（実世界のデータを使って予測や判断をするプロセス）にも使える。推論においてGPUとCPUの間にどれだけの処理速度の違いが出るのかは、どれだけの量の計算を実行するのかによって異なる。全ての推論でGPUが最も適するわけではないが、GPUはトレーニングと同様に推論でも有効に活用できることは確かだ。

AIワークロードで考慮すべきGPUの性能

　AIモデルのトレーニングや推論において、GPUのさまざまな特性が処理の効率性に影響する。AIワークロードを実行する際に考慮すべき要素としては、以下がある。

• 総コア数
  • 何個のコアを搭載しているか
• 総メモリ容量
  • メモリの容量がどれだけあるか
• メモリクロック数
  • メモリがどれだけの速度でデータを読み書きするか
• GPUクロック数
  • GPUがどれだけの速度で信号を扱えるか
• AI特化の最適化機能
  • AI関連のタスクに特化したコンポーネントを搭載しているかどうか

　各AIワークロードにおいてこれらの要素がそれぞれどの程度重要なのかによって、適したGPUは変わる。上記の点に加えて、以下の要素も検討することになるだろう。

• コスト
• ベンダーのサポート
• 発熱量
• 拡張スロットの適合性

GPU購入の代替案となるGPU-as-a-service

　プロジェクトに適したGPUが分からない場合や、予算内でGPUの購入ができない場合は、GPUをサービスとして使う「GPU as a service」（GPUaaS）も有効な選択肢の一つになる。

　GPUaaSは、オンデマンドでGPUのリソースを調達できるクラウドサービスの一種だ。クラウドベンダーは。さまざまなGPUの選択肢を提供しているので、AIワークロードの特性に応じて最適なGPUを使い分けることができる。

　GPUaaSを利用すればGPUへの大規模な初期投資が不要となるため、AIモデルのトレーニングにはGPUを使用し、推論にはCPUを使用するなど、GPUを限定的にしか使用しない場合にも合理的な選択肢となる。

　次回は、本稿で紹介したGPU選定時の要素を、より詳細に解説する。