非汎用プロセッサ「TPU」とは何か？ CPU、GPU、DPUとの違いは：AI時代の新常識

CPUやGPU、DPUに加えて、AI技術に特化した「TPU」（テンソル処理ユニット）というプロセッサがある。GPUやCPUなど他プロセッサとの比較を通じて、TPUとは何かを解説する。

[Antony Adshead，TechTarget]

　人工知能（AI）技術の利用が広がる中で、CPU（中央処理装置）やGPU（グラフィックス処理装置）、DPU（データ処理装置）に加えて、TPU（テンソル処理ユニット）というプロセッサを耳にした人もいるだろう。TPUが開発された背景や、他のプロセッサとの違いを理解している人はまだあまりいないはずだ。本稿はCPUやGPU、DPUの役割を踏まえた上で、AI処理においてTPUにどのような特徴があるのかを解説する。

CPU、GPU、DPUと「TPU」は何が違う？

併せて読みたいお薦め記事

プロセッサについておさらいしよう

• GPUの“絶対王者”NVIDIAを襲う「まさかの死角」とは
• AI特化プロセッサ「NPU」「TPU」が“全く別物”である理由

　簡単に説明すると、TPUはGPUよりもさらにAI処理に特化したプロセッサで、「高次元データ」（多くの特徴や変数を持つデータ）を効率的に処理できるよう設計されている。その特性をより深く理解するために、まずは他のプロセッサを理解しておこう。

CPU

　CPUはコンピューティング技術の中核を担う汎用（はんよう）プロセッサであり、システム全体の司令塔とも言える存在だ。入力の受け付け、指示の送受信、イベント処理の統括と指揮などが主な役割となる。CPUはさまざまなタスクを汎用的に担うことができるが、計算負荷の高い処理については、より特化した専用チップにオフロード（移し替えること）する必要性が常に議論されてきた。

GPU

　GPUは名前が示す通り、もともとはゲームのグラフィックス処理を目的として設計されたプロセッサだが、後にAI関連の処理にも活用されるようになった。これは、GPUが高次元データを処理するための行列演算に優れ、CPUよりも大幅に高速な並列処理が可能だからだ。ただし、GPUは行列演算を効率的に処理できるよう設計されているものの、AI処理に完全に特化したプロセッサではない。

DPU

　DPUはデータ転送やデータ削減、データ分析やセキュリティ関連のタスクなど、特定のデータ処理を担うためのプロセッサだ。主にデータセンターでの利用が進んでいる。CPUからDPUにタスクをオフロードすることで、CPUを汎用的なタスクに集中させることが可能になる。

　DPUあるいは類似するプロセッサを提供するベンダーとしては、IntelやNVIDIA、Marvell Technology、Advanced Micro Devices（AMD）などが挙げられる。クラウドベンダーのAmazon Web Services（AWS）は、自社で提供するクラウドサービスのインフラに、DPUと同様の機能を備えた専用装置「Nitro Card」を採用している。

TPU

　TPUはGoogleが開発したプロセッサで、2016年頃に登場した。同社のクラウドサービス群「Google Cloud」から「Cloud TPU」として利用できる。

　「テンソル」とは、行列や多次元の数値を指す数学的概念で、AI関連の処理において重要な要素となる。具体的には、テンソルを用いることで、オブジェクトに高次元の数値を割り当て、AIモデルの学習や推論を効率的に実施する。

　TPUの重要な特徴の一つが、テンソルを処理するための「ASIC」（Application Specific Integrated Circuit：アプリケーション特化型集積回路）をベースに設計されている点だ。ASICは特定用途向けに設計された集積回路を指す。TPUのASICには「MXU」（Matrix Multiply Unit：行列乗算ユニット）と呼ばれるモジュールが組み込まれており、行列演算を高速に処理できる。

　Cloud TPUのASICは、オープンソースの機械学習用フレームワーク「TensorFlow」向けに設計されている。これにより、TensorFlowを用いて高次元データを効率的に処理できるようになり、AIモデルのトレーニングや推論に役立つ。

　Googleの最新バージョンのTPU「Cloud TPU v5p」は、459テラFLOPS（FLOPS：1秒当たりの浮動小数点演算回数）の演算性能を誇り、TensorFlowに加えて「PyTorch」「JAX」など他の機械学習フレームワークとの互換性も持つ。画像の分類や生成、大規模言語モデル（LLM）の処理も可能だ。

　GPUでもTPUと同等の処理は十分に可能であり、TPUに性能面の優位性があるかどうかについて、明確な結論は出ていない。一方で、Google CloudでAI関連のタスクを実行する場合、Cloud TPUはGoogle Cloud内の他サービスとの連携性に優れるというメリットがある。TPUはGoogle Cloudで提供されているものであり、ユーザー企業は自社で構築するAIシステム向けにTPUを導入することはできない。

Computer Weekly発　世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。