AI時代の新常識
非汎用プロセッサ「TPU」とは何か? CPU、GPU、DPUとの違いは
CPUやGPU、DPUに加えて、AI技術に特化した「TPU」(テンソル処理ユニット)というプロセッサがある。GPUやCPUなど他プロセッサとの比較を通じて、TPUとは何かを解説する。
人工知能(AI)技術の利用が広がる中で、CPU(中央処理装置)やGPU(グラフィックス処理装置)、DPU(データ処理装置)に加えて、TPU(テンソル処理ユニット)というプロセッサを耳にした人もいるだろう。TPUが開発された背景や、他のプロセッサとの違いを理解している人はまだあまりいないはずだ。本稿はCPUやGPU、DPUの役割を踏まえた上で、AI処理においてTPUにどのような特徴があるのかを解説する。
CPU、GPU、DPUと「TPU」は何が違う?
簡単に説明すると、TPUはGPUよりもさらにAI処理に特化したプロセッサで、「高次元データ」(多くの特徴や変数を持つデータ)を効率的に処理できるよう設計されている。その特性をより深く理解するために、まずは他のプロセッサを理解しておこう。
CPU
CPUはコンピューティング技術の中核を担う汎用(はんよう)プロセッサであり、システム全体の司令塔とも言える存在だ。入力の受け付け、指示の送受信、イベント処理の統括と指揮などが主な役割となる。CPUはさまざまなタスクを汎用的に担うことができるが、計算負荷の高い処理については、より特化した専用チップにオフロード(移し替えること)する必要性が常に議論されてきた。
GPU
GPUは名前が示す通り、もともとはゲームのグラフィックス処理を目的として設計されたプロセッサだが、後にAI関連の処理にも活用されるようになった。これは、GPUが高次元データを処理するための行列演算に優れ、CPUよりも大幅に高速な並列処理が可能だからだ。ただし、GPUは行列演算を効率的に処理できるよう設計されているものの、AI処理に完全に特化したプロセッサではない。
DPU
DPUはデータ転送やデータ削減、データ分析やセキュリティ関連のタスクなど、特定のデータ処理を担うためのプロセッサだ。主にデータセンターでの利用が進んでいる。CPUからDPUにタスクをオフロードすることで、CPUを汎用的なタスクに集中させることが可能になる。
DPUあるいは類似するプロセッサを提供するベンダーとしては、IntelやNVIDIA、Marvell Technology、Advanced Micro Devices(AMD)などが挙げられる。クラウドベンダーのAmazon Web Services(AWS)は、自社で提供するクラウドサービスのインフラに、DPUと同様の機能を備えた専用装置「Nitro Card」を採用している。
TPU
TPUはGoogleが開発したプロセッサで、2016年頃に登場した。同社のクラウドサービス群「Google Cloud」から「Cloud TPU」として利用できる。
「テンソル」とは、行列や多次元の数値を指す数学的概念で、AI関連の処理において重要な要素となる。具体的には、テンソルを用いることで、オブジェクトに高次元の数値を割り当て、AIモデルの学習や推論を効率的に実施する。
TPUの重要な特徴の一つが、テンソルを処理するための「ASIC」(Application Specific Integrated Circuit:アプリケーション特化型集積回路)をベースに設計されている点だ。ASICは特定用途向けに設計された集積回路を指す。TPUのASICには「MXU」(Matrix Multiply Unit:行列乗算ユニット)と呼ばれるモジュールが組み込まれており、行列演算を高速に処理できる。
Cloud TPUのASICは、オープンソースの機械学習用フレームワーク「TensorFlow」向けに設計されている。これにより、TensorFlowを用いて高次元データを効率的に処理できるようになり、AIモデルのトレーニングや推論に役立つ。
Googleの最新バージョンのTPU「Cloud TPU v5p」は、459テラFLOPS(FLOPS:1秒当たりの浮動小数点演算回数)の演算性能を誇り、TensorFlowに加えて「PyTorch」「JAX」など他の機械学習フレームワークとの互換性も持つ。画像の分類や生成、大規模言語モデル(LLM)の処理も可能だ。
GPUでもTPUと同等の処理は十分に可能であり、TPUに性能面の優位性があるかどうかについて、明確な結論は出ていない。一方で、Google CloudでAI関連のタスクを実行する場合、Cloud TPUはGoogle Cloud内の他サービスとの連携性に優れるというメリットがある。TPUはGoogle Cloudで提供されているものであり、ユーザー企業は自社で構築するAIシステム向けにTPUを導入することはできない。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[横河レンタ・リース株式会社] 「Wi-Fiにつながらない」「会議中に途切れる」の原因を切り分けやすくするには -
技術文書・技術解説
[アトラシアン株式会社] AIを導入で終わらせない、個人の利用から組織の成果に変えるリーダーの実践指針 -
製品資料
[アトラシアン株式会社] 生成AIの全社展開とROI最大化を阻む“ナレッジの壁” 突破するための4ステップ -
製品資料
[株式会社Helpfeel] コールセンター長を悩ませる「4大課題」と解決策 -
製品資料
[株式会社Helpfeel] 調査結果で見る「社内問い合わせ」の現状 ストレスや工数圧迫の原因は?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
SAP移行で1900億円の赤字 「ベンダー任せ」が招くERP崩壊と回避策
-
2
「GPT-6.1 Terra」は半額 それでもなぜ企業はAIモデルを選べないのか?
-
3
AIに長文を入力する際の「コンテキストウィンドウ」の適切な扱い方はどれ?
-
4
「AIやRPAなどのツール活用による業務改善」に関するアンケート
-
5
「Microsoft 365 Copilotを始めとするAIガバナンス」に関するアンケート
-
6
Wi-Fi 7導入で検討したい安定運用の要件 無線LANの不調を避けるには
-
7
「AMD製CPU搭載のPC導入検討」に関するアンケート
-
8
「プロンプトインジェクション」の適切なリスク対策はどれ?
-
9
なぜ「ChatGPT」連携の拡張機能が情報漏えいの入り口になるのか?
-
10
「nginx」のHTTP/2脆弱性(CVSS 9.2)、パッチ適用までの緊急チェックリスト
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
パスワード管理だけで十分? 特権アクセスを脅かす暗号鍵の放置リスクとは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
すぐ分かる「AWS WAF」ガイド:特徴・運用課題・メリットを解説
-
6
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
7
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
8
Microsoft 365 Copilotで実際何ができる? 回答の精度を高めるRAGとは?
-
9
「Microsoft 365」徹底解説ガイド テレワーク時代のセキュリティ対策編
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー