アクセラレーターの使い方もポイント
いまさら聞けない「CPU」と「GPU」の違い AIに最適なのはどっち?
機械学習をはじめとしたAI(人工知能)技術を取り入れる動きが広がっている。AI技術を活用しようとするならば、まずは最適なハードウェアを見つける必要がある。
機械学習のようなAI(人工知能)技術を取り入れるなら、企業はまずハードウェアを評価する必要がある。評価する際のポイントが、プロセッサにCPUとGPU(画像処理プロセッサ)のどちらを選択するのかという点だ。プロセッサの選択は、企業のAI戦略に長期的に影響するので重要な意味を持つ。そしてその選択肢は多岐にわたる。
CPUを選択するケース
CPUは基本的なコンピューティングの大半を担う。GPUやGoogleが自社開発したチップ「Tensor Processing Unit」(TPU)のようなAI分野で勢力を増すプロセッサが登場する前は、負荷の高い処理を含め、ほとんどの処理をCPUが担っていた。
AI分野に最適なハードウェア選びで特に重要な要素となるのは、処理速度だ。機械学習モデルのトレーニングに関する処理の場合、CPUはGPUよりも長い時間がかかる可能性がある。CPUはGPUよりもコア数が少なく、GPUと同等の並列処理を担うことが難しいからだ。
パフォーマンスを高めるために、CPUベンダーや開発者はプロセッサコアを複数にするマルチコアCPUや、処理高速化を支援するハードウェアであるアクセラレーターの階層化といった工夫を施している。特定のアプリケーションを優先して処理さに優先的にリソースを割り当てることで、コンピューティングの処理速度やCPUがメモリからデータを読み込む速度を高めることが可能になる。それでも一般的には、CPUがGPUの処理能力を上回ることはできない。
「CPU1基の処理能力だけでは、高度な機械学習のタスクをこなすことは難しい。一方でCPUをベースにすることが優れた戦略になる可能性がある」。こう指摘するのはIntelでAI関連のビジネスを率いるガディ・シンガー氏だ。「簡単な機械学習を実行したいのであれば、あるいは機械学習と汎用(はんよう)的なコンピューティング処理をどちらも実行したいのであれば、CPUベースが最適だ」(シンガー氏)。さまざまな目的でプロセッサを機能させるのであれば、ソフトウェアによって特定のタスク用の処理能力を増強できるCPUの方が適しているという。
ただしアクセラレーターをマルチコアCPUで使用するコンピューティングの仕組みが、AI技術向けの処理に最適とは限らない。企業が多層のニューラルネットワークを用いた高度な深層学習の実行を考えていたり、プロセッサを汎用的なコンピューティング処理ではなく、AI技術に特化した用途で利用したいと考えていたりするのであれば、GPUの方が適しているだろう。
GPUを選択するケース
多層のニューラルネットワークを用いた深層学習を使用するにもかかわらず、プロセッサにCPUを選択することは、理にかなっているとは言えない。高速処理が可能なGPUに匹敵する処理能力をマルチコアCPUに持たせようとすれば、大量のアクセラレーターが必要になると考えられる。
AI技術を使ったタスクには、GPUを使うのが一般的だ。GPUはデータを基に画像や映像を生成するレンダリングの処理に最適化されたプロセッサだが、AI技術を使ったタスクを処理できる処理能力も備えている。NVIDIA、Intel、Armなどが主要なGPUベンダーだ。
「機械学習の標準的な処理であれば、通常はCPUで十分に担える。負荷の高い深層学習で使用するのであれば、GPUやAI技術向けに最適化したプロセッサを検討する必要がある」。こう話すのは深層学習を最適化するツールを提供するRun:AIのCEO(最高経営責任者)、オムリ・ゲラー氏だ。
深層学習に必要なパラメーターの調整や学習の反復には、大容量の学習データと深層学習モデルのサイズに応じた処理能力が必要になる。このような場合にGPUが効果的だとシンガー氏は指摘する。
CPUとGPUの選定方法
CPUとGPUはそれぞれ適した役割がある。AI技術の使用に最適なハードウェアを構築するに当たって、それぞれ具体的にどの分野に適しているのかを見極める必要がある。
重要なのは、AI技術活用の目標を設定し、それを達成するために必要な処理能力を評価することだ。高度な要件がないAI戦略を進めるのであればCPUを選択し、必要に応じてアクセラレーターや最適化のためのソフトウェアを使用する。
複雑な深層学習を導入する場合、最善の結果を得るためにはGPUが必要になる可能性が高い。独自の深層学習モデルを開発したいのであれば、高速で効率的な処理能力を備えたGPUを採用する価値は十分あるだろう。ただしコストが高くつく可能性がある点に注意する必要がある。企業がAI関連の用途でGPUを使用するケースは、かなり新しいためだ。
AI技術を活用する際のハードウェアの選択は単純ではない。最適なハードウェアを選ぶには、AI戦略の目標を定め、コンピューティングリソースを最大限に活用し、必要に応じて最適化のためのソフトウェアを活用することが必要だ。
「プロセッサは通常、深層学習に取り組む特定の開発チームやデータサイエンティスト、エンジニアのために最適化されてはいない。最適とはいえないGPUをそのまま導入すれば、当初の想定よりもコストが大幅に上がる上、トレーニングの時間が長くかかる残念な結果に終わることになるだろう」(ゲラー氏)
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
SNS認証や多要素認証も数分で実装、IDaaS基盤でデジタルビジネスはどう変わる? -
製品レビュー
「電子帳簿保存法対応」実践術:タイムスタンプ付与などの要件の手軽な実現方法 -
事例
「大企業のデジタル化」成功事例集【コクヨ、九州電力、ヨネックスなど21社】 -
製品資料
“顧客管理の課題”を簡単に解決する方法とは? -
製品資料
契約管理の“あるある課題”をノーコード開発で解決するためのポイント
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
ソフトウェア開発生産性向上に取り組む企業は4割 調査で学ぶ「停滞」の正体
-
2
Microsoft製品でここまで自動化できる 情シスがやめられる手作業10選
-
3
Oracle巨大ITプロジェクトはなぜつまずいたのか 8年で導入1割、追加で170億ドル
-
4
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
5
「技術屋」で終わらないために 情シスが今取るべき認定資格5選
-
6
ISMSの“コンサル丸投げ”が招く数千万円の無駄 NTTドコモビジネスの脱出劇
-
7
継続利用は4割どまり M365 Copilotが「効く業務」と期待外れの境界
-
8
「即戦力」は幻想? 中途の3割が消えるAI時代のエンジニア生存戦略
-
9
「Linuxサーバの長期運用とRed Hat Enterprise Linux」に関するアンケート
-
10
Synologyがエンタープライズ向けユニファイドストレージを投入 その実力は
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない? 業務で自然に使う導線にする秘訣
-
3
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは?
-
4
5回聞くだけじゃ足りない? トヨタ式「なぜなぜ分析」の正しい実践方法
-
5
「脱Excel」か「Excel快適化」か? 現場にやさしい業務改善の進め方
-
6
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
7
「結局、一部の人しか使わない」 AI活用が業務に定着しない根本的な理由
-
8
AIエージェントで成果は出る? 調査結果に見る費用対効果の実態
-
9
PostgreSQLの「機能」「性能」「運用」「拡張性」に関する悩みの解消法
-
10
ゼロトラストにおける「IDaaSの課題」と補完すべき重要機能とは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー