AI時代のプロセッサ再入門【第5回】
CPU、GPU、TPU、NPUは何が違い、AI処理でどう役立つのか?
CPU、GPU、TPU、NPUはいずれもAI技術の活用において使われるプロセッサだ。それぞれAI技術の演算処理とどのような関係にあり、どのような用途で使われるのか。
機械学習などのAI(人工知能)技術の活用には、複数種類のプロセッサが使われる。汎用(はんよう)的な用途に使われてきた「CPU」(中央処理装置)や「GPU」(グラフィックス処理装置)だけではなく、昨今は「TPU」(テンソル処理装置)や「NPU」(ニューラル処理装置)と呼ばれるプロセッサも使われるようになった。それぞれのプロセッサは何が違い、AI技術の演算処理とどのような関係にあるのか。
CPU、GPU、TPU、NPUの違いとは? それぞれに適したAI用途
併せて読みたいお薦め記事
AI時代のプロセッサ再入門
- 第1回:GPUやNPUの時代にこそ「CPUの理解」が欠かせないのはなぜ?
- 第2回:「CPU」と「GPU」の仕事がこれほど違う“根本的な理由”
- 第3回:「TPU」とはどんなプロセッサなのか? AIインフラの基礎知識
- 第4回:AI特化プロセッサ「NPU」「TPU」が“全く別物”である理由
プロセッサ関連のその他の動向
AI技術の活用では、さまざまなデータをトレーニングや推論に用いる。例えば、猫を認識するように設計されたコンピュータビジョン(コンピュータが画像や動画を理解するための技術)のシステムを考えてみよう。AIモデルは、猫の画像のピクセルデータから特徴を抽出してパターンを認識するための演算処理を実行する。そのAIモデルのトレーニングには何千もの異なる画像が必要だ。
こうしたAI技術の演算処理と、プロセッサはどのような関係にあるのか。各プロセッサは、どのような演算処理に適しているのか。それぞれの特徴は次の通りだ。
CPU
さまざまな用途で汎用的に使われているCPUもAI技術に必要な演算を処理できる。ただしCPUで得られるAI用途向けの計算能力は処理速度は限定的で、かなりの時間とリソースを必要とする可能性がある。通常、他のプロセッサには向かないくらい小規模のプロジェクトでCPUを活用する。例えば、1つの例だけでタスクを学習する「ワンショット学習」や、数回程度の数少ない例で学習する「フューショット学習」などがある。
GPU
GPUは行列乗算などの並列計算をCPUよりもはるかに効率的に実行できるので、ほとんどのAIタスクを迅速に処理できる。可用性、費用対効果、最新型のサーバでの運用といった観点でメリットが得られる可能性がある。通常、AIアプリケーションを社内で開発する企業にとってのプロセッサとして、最も基本的な選択になる。
TPU
TPUは、基本的にはGPUをさらにAI技術の用途に特化させたプロセッサだと言える。機械学習などのAI技術に必要となる行列乗算などの演算を実行する設計となっている。通常、Googleのクラウドサービス群「Google Cloud」でAIアプリケーションを開発するときに使用する。とはいえ、AIアプリケーションの開発や実行にクラウドサービスを使うのであれば、選択肢をTPUに限る必要はない。Google Cloudでも他のクラウドサービスでも、GPUベースの仮想マシンやサービスを選択できる。
NPU
NPUは、人間の思考や情報の関連付けに似せたアーキテクチャを持つ。通常、AIアプリケーションを高速で処理したいスマートデバイスやモバイルデバイスで使用する。データセンターやクラウドサービスでの使用は想定されていない。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社インターネットイニシアティブ] 人材不足と属人化が深刻に 「攻められない情シス」を変革する一手とは? -
製品資料
[株式会社イトーキ] 会議室が「空いてるのに使えない」問題の解決策とは? -
事例
[株式会社イトーキ] 製造現場を取り巻く経営課題 「持続的な現場力」を強化する方法とは? -
製品資料
[株式会社イトーキ] 社員の力を引き出す、「ABW(Activity Based Working)」を実現する秘訣とは? -
製品資料
[株式会社BREXA Technology] 「インシデント初動対応」が遅れる3つの構造的要因とは?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
企業が「Microsoft Azure」を選ばざるを得ない理由
-
2
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
3
無課金から要課金まで AIの基本や応用がマスターできる“学習コース”9選
-
4
「リモートアクセスセキュリティ」に成功する企業、そうでない企業の違い
-
5
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
6
脱VMwareの真実:データセンター大手がNutanixを選んだ「コスト以上の理由」
-
7
「営業・マーケティングの悩みと企業データの活用」に関するアンケート
-
8
なぜノートPCの更新が「4年→6年」に? AIインフラ急拡大の余波
-
9
米国政府にも盗聴できないクラウドシステムを作るには
-
10
事例に学ぶ:重要データが“人質”にならないための予防策
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
6
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
10
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー