グラフィックスを処理するために使われてきた「GPU」は、AI関連のタスクを実行するための不可欠な存在となっている。GPUのどのような仕組みが生かされているのか。CPUとの仕組みの違いを踏まえて考えてみよう。
グラフィックスのレンダリング（画像や映像を描画するプロセス）用で使われてきた「GPU」（グラフィックス処理装置）は、近年は人工知能（AI）分野で重宝されている。GPUがCPUよりも圧倒的にAI関連に向いているのはなぜなのか。一口にGPUと言っても全てが同じように設計されているわけではないが、どのGPUにも共通する“ある点”がAI分野で役立っている。
全てのAIワークロード（AI技術に関連する計算処理などの一連のタスク）に適するたった1つのGPUを選定することはできない。それぞれのAIワークロードの特性に応じたGPUを使用することが重要になる。
機械学習モデルは、膨大な量の計算を重ねることでトレーニングをする。一つ一つの計算は小さくて単純なものであったとしても、それが積み重なると膨大な手間がかかる。CPUで1つの計算を終えてから次の計算を始めるような「逐次処理」の仕方をしていると、計算量が膨大になるほど時間がかかる。
そこでGPUの出番だ。GPUは並列処理を得意としており、多数の計算を同時に実行することができる。GPUのその効率性は、数千というコア（演算処理を担うユニット）で構成されるアーキテクチャによるものだ。各コアは独立して演算処理ができる。
並列処理を得意とするGPUとは対照的に、CPUが搭載するコアは多くても数十個程度となっている。GPUとCPUのこの違いは、大量の計算を同時に実行する際の効率性においては大きな差になる。だからといって、「CPUには十分な計算能力がない」というわけではない。得意とするタスクが異なるということであり、CPUはコア数がGPUよりもかなり少ないために、GPUほど効率的に並列処理を実行することができないということだ。
GPUは、AIモデルのトレーニングにも、トレーニングされたAIモデルの推論（実世界のデータを使って予測や判断をするプロセス）にも使える。推論においてGPUとCPUの間にどれだけの処理速度の違いが出るのかは、どれだけの量の計算を実行するのかによって異なる。全ての推論でGPUが最も適するわけではないが、GPUはトレーニングと同様に推論でも有効に活用できることは確かだ。
AIモデルのトレーニングや推論において、GPUのさまざまな特性が処理の効率性に影響する。AIワークロードを実行する際に考慮すべき要素としては、以下がある。
各AIワークロードにおいてこれらの要素がそれぞれどの程度重要なのかによって、適したGPUは変わる。上記の点に加えて、以下の要素も検討することになるだろう。
プロジェクトに適したGPUが分からない場合や、予算内でGPUの購入ができない場合は、GPUをサービスとして使う「GPU as a service」（GPUaaS）も有効な選択肢の一つになる。
GPUaaSは、オンデマンドでGPUのリソースを調達できるクラウドサービスの一種だ。クラウドベンダーは。さまざまなGPUの選択肢を提供しているので、AIワークロードの特性に応じて最適なGPUを使い分けることができる。
GPUaaSを利用すればGPUへの大規模な初期投資が不要となるため、AIモデルのトレーニングにはGPUを使用し、推論にはCPUを使用するなど、GPUを限定的にしか使用しない場合にも合理的な選択肢となる。
次回は、本稿で紹介したGPU選定時の要素を、より詳細に解説する。
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
HDDの容量が30TB超になると同時に、ストレージ技術はさまざまな進化を続けている。そうした中でもインタフェースに「SATA」（Serial ATA）を採用したHDDが変わらずに使われ続けている。なぜなのか。
カラオケ業界が直面するデータ増に対応すべく多くのストレージを試し続けた結果、4社27台の製品のメンテナンスに悩まされていたエクシング。この問題を解消すべく、同社は大容量かつコスト削減効果に優れた、新たなストレージを導入した。
メインフレームにおけるデータソート処理は、システム効率に大きく影響する。そこで、z/OSシステムおよびIBM Zメインフレーム上で稼働する、高パフォーマンスのソート／コピー／結合ソリューションを紹介する。
ECと通販システムを統合したパッケージの開発と導入を事業の柱とするエルテックスでは、事業の成長に伴いデータの容量を拡大する必要に迫られていた。そこでストレージを刷新してコスト削減や可用性の向上などさまざまな成果を得たという。
長年にわたり強力かつ安全な基盤であり続けてきたメインフレームシステム。しかし今では、クラウド戦略におけるボトルネックとなりつつある。ボトルネックの解消に向け、メインフレームを段階的にモダナイズするアプローチを解説する。
クラウド全盛期になぜ「テープ」が再注目？ データ管理の最前線を探る (2025/4/24)
データの多様化と肥大化が加速 ファイルサーバ運用は限界？ 見直しのポイント (2025/4/8)
Hyper-Vは「次の仮想化基盤」になり得るのか 有識者の本音を聞く (2025/3/14)
「生成AI」の自社運用に“ちょうどよいサーバ”の賢い選び方 (2025/3/12)
クラウドストレージは便利だけど検索性が課題？ 東急建設の解決策は (2025/2/25)
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ（仮想PC画面）は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「マーケティングオートメーション」 国内売れ筋TOP10（2025年5月）
今週は、マーケティングオートメーション（MA）ツールの売れ筋TOP10を紹介します。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年4月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年4月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
ITmediaはアイティメディア株式会社の登録商標です。
