CPU、GPU、TPU、NPUは何が違い、AI処理でどう役立つのか?AI時代のプロセッサ再入門【第5回】

CPU、GPU、TPU、NPUはいずれもAI技術の活用において使われるプロセッサだ。それぞれAI技術の演算処理とどのような関係にあり、どのような用途で使われるのか。

2024年11月19日 06時00分 公開
[Stephen J. BigelowTechTarget]

関連キーワード

CPU | 人工知能 | GPU


 機械学習などのAI(人工知能)技術の活用には、複数種類のプロセッサが使われる。汎用(はんよう)的な用途に使われてきた「CPU」(中央処理装置)や「GPU」(グラフィックス処理装置)だけではなく、昨今は「TPU」(テンソル処理装置)や「NPU」(ニューラル処理装置)と呼ばれるプロセッサも使われるようになった。それぞれのプロセッサは何が違い、AI技術の演算処理とどのような関係にあるのか。

CPU、GPU、TPU、NPUの違いとは? それぞれに適したAI用途

 AI技術の活用では、さまざまなデータをトレーニングや推論に用いる。例えば、猫を認識するように設計されたコンピュータビジョン(コンピュータが画像や動画を理解するための技術)のシステムを考えてみよう。AIモデルは、猫の画像のピクセルデータから特徴を抽出してパターンを認識するための演算処理を実行する。そのAIモデルのトレーニングには何千もの異なる画像が必要だ。

 こうしたAI技術の演算処理と、プロセッサはどのような関係にあるのか。各プロセッサは、どのような演算処理に適しているのか。それぞれの特徴は次の通りだ。

CPU

 さまざまな用途で汎用的に使われているCPUもAI技術に必要な演算を処理できる。ただしCPUで得られるAI用途向けの計算能力は処理速度は限定的で、かなりの時間とリソースを必要とする可能性がある。通常、他のプロセッサには向かないくらい小規模のプロジェクトでCPUを活用する。例えば、1つの例だけでタスクを学習する「ワンショット学習」や、数回程度の数少ない例で学習する「フューショット学習」などがある。

GPU

 GPUは行列乗算などの並列計算をCPUよりもはるかに効率的に実行できるので、ほとんどのAIタスクを迅速に処理できる。可用性、費用対効果、最新型のサーバでの運用といった観点でメリットが得られる可能性がある。通常、AIアプリケーションを社内で開発する企業にとってのプロセッサとして、最も基本的な選択になる。

TPU

 TPUは、基本的にはGPUをさらにAI技術の用途に特化させたプロセッサだと言える。機械学習などのAI技術に必要となる行列乗算などの演算を実行する設計となっている。通常、Googleのクラウドサービス群「Google Cloud」でAIアプリケーションを開発するときに使用する。とはいえ、AIアプリケーションの開発や実行にクラウドサービスを使うのであれば、選択肢をTPUに限る必要はない。Google Cloudでも他のクラウドサービスでも、GPUベースの仮想マシンやサービスを選択できる。

NPU

 NPUは、人間の思考や情報の関連付けに似せたアーキテクチャを持つ。通常、AIアプリケーションを高速で処理したいスマートデバイスやモバイルデバイスで使用する。データセンターやクラウドサービスでの使用は想定されていない。

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

譁ー逹€繝帙Ρ繧、繝医�繝シ繝代�

プレミアムコンテンツ アイティメディア株式会社

「SATA接続HDD」が変わらず愛される理由とは

HDDの容量が30TB超になると同時に、ストレージ技術はさまざまな進化を続けている。そうした中でもインタフェースに「SATA」(Serial ATA)を採用したHDDが変わらずに使われ続けている。なぜなのか。

事例 INFINIDAT JAPAN合同会社

IOPSが5倍に向上&コストも80%削減、エクシングが選んだ大容量ストレージとは

カラオケ業界が直面するデータ増に対応すべく多くのストレージを試し続けた結果、4社27台の製品のメンテナンスに悩まされていたエクシング。この問題を解消すべく、同社は大容量かつコスト削減効果に優れた、新たなストレージを導入した。

製品資料 プリサイスリー・ソフトウェア株式会社

データソート性能向上でここまで変わる、メインフレームのシステム効率アップ術

メインフレームにおけるデータソート処理は、システム効率に大きく影響する。そこで、z/OSシステムおよびIBM Zメインフレーム上で稼働する、高パフォーマンスのソート/コピー/結合ソリューションを紹介する。

事例 INFINIDAT JAPAN合同会社

従来ストレージの約8倍の容量を確保、エルテックスが採用したストレージとは

ECと通販システムを統合したパッケージの開発と導入を事業の柱とするエルテックスでは、事業の成長に伴いデータの容量を拡大する必要に迫られていた。そこでストレージを刷新してコスト削減や可用性の向上などさまざまな成果を得たという。

市場調査・トレンド プリサイスリー・ソフトウェア株式会社

クラウド統合を見据えたメインフレームのモダナイズ、3つの手法はどれが最適?

長年にわたり強力かつ安全な基盤であり続けてきたメインフレームシステム。しかし今では、クラウド戦略におけるボトルネックとなりつつある。ボトルネックの解消に向け、メインフレームを段階的にモダナイズするアプローチを解説する。

From Informa TechTarget

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは

いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。

ITmedia マーケティング新着記事

news025.png

「マーケティングオートメーション」 国内売れ筋TOP10(2025年5月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。

news014.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news046.png

「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。