CPUやGPUが「総合職」なら、TPUは「専門職」

Googleの「Tensor Processing Unit（TPU）」は　機械学習処理の救世主か

Googleの発表した「Tensor Processing Unit（TPU）」は、機械学習モデルのトレーニングと実行向けに設計された。CPUやGPUと比較したTPUの長所と短所について解説する。

公開 2017年08月15日 05時00分

更新 2017年08月14日 04時14分

著者

Mary K. Pratt

[TechTarget]

印刷する

機械学習の導入には、膨大な情報処理を可能にする設備が必要だ

　IT企業にとって、機械学習が不可欠のテクノロジーになりつつある今日、その情報処理量に耐えられる処理装置も必須製品になり得る。

　企業が求めるレベルに見合った製品を提供しようと、複数のハイテク企業が競争に加わっている。

　Googleは、その1社だ。同社は、「Google Cloud」で利用可能なTPU（Tensor Processing Unit）、「Cloud TPU」を市場に投入した。

　Googleによれば、現在多くの企業が機械学習の情報処理に使用しているCPUやGPUと比べて、TPUは1ワット当たりのパフォーマンスが高いという。

　TPUチップは、特定用途向け集積回路（ASIC）（注1）の1つだ。Googleは、機械学習ワークロードの処理を具体的な目標にTPUを開発した。

※注1：ASIC（Application Specific Integrated Circuit）＝IC（Integrated Circuit）の1つで、ある特定の用途やユーザーに向けて設計、製造される。

　「TPUは、機械学習アルゴリズムを実行するために、ゼロから設計された数少ないチップの1つだ」と、Gartnerのリサーチ部門でバイスプレジデントを務めるマーク・ハン氏は語る。

第一世代と第二世代のTPU

　Googleは、初期の第一世代TPUと2017年5月に発表した第二世代TPUの両方を開発した理由として、「社内要件を満たすためだった」ことを挙げている。

　Googleは、2017年5月17日に掲載したブログ記事に、「第一世代TPUは、文章の翻訳や囲碁の次の一手の選択など、機械学習モデルの迅速かつ効果的な実行を目的に設計された。だが、こうしたモデルは依然として個別の学習トレーニングを必要としていた。機械学習モデルの学習トレーニングは、実行よりも難しい。利用可能な最高レベルのCPUやGPUでも、最先端の制度に到達するには、数日間から数週間の計算処理を必要とする」と記した。

　Googleの研究チームとエンジニアリングチームは、ハードウェアを通した機械学習モデルのトレーニングという困難な作業のスケーリングにおいて「大きな進歩」を遂げた。だが、同社はブログに、第一世代TPUは、「機械学習のニーズを満たすのに十分ではなかった」と記している。新たな機械学習システムについて、Googleは、機械学習モデルのトレーニングと実行の両方に第二世代TPUを採用することでボトルネックを解消し、全体のパフォーマンスを最大限に高めたと主張している。

　同社製品について詳しい話を聞くため、TechTargetはGoogleにインタビューを申し込んだが、返答を得られなかった。

　「Googleが発表したTPUの速度から考えれば、Cloud TPUで機械学習アプリケーションを開発、実行する企業の最高情報責任者（CIO）にとって、作業の生産性改善は明らかだろう」と、ハン氏は語る。

併せて読みたいお薦め記事

クラウドで提供される企業向け機械学習サービスは多い

一方で、クラウド経由の機械学習には懸念も

クラウド「機械学習」への評価が分かれる理由、慎重派の言い分は？

機械学習に多く使われるGPUは、多用途に浸透

TPU対GPU、CPUの比較

　現在、多くの企業が、CPUかGPUのどちらかを使って機械学習を実行している。

　Googleは、TPUを機械学習アプリケーション向けに最適化した。そのため、専門家は、主に3Dアプリケーション向けに構築された汎用のCPUやGPUと比較して、TPUは全く性質を異にすると指摘する。より明確な言葉を使えば、TPUは学習トレーニングや推論処理向けに構築されたため、そうした作業を他のチップよりも高速で実行できる。

　「汎用のチップでは、人工知能（AI）が必要とする膨大な計算能力に必要なパフォーマンスを提供できない」と、Georgia Tech College of Computingコンピュータサイエンス学部のハディ・エスマエイルザデフ准教授は話す。

　AIのニーズを満たす製品の競争は始まっている。ペンシルベニア州ピッツバーグに拠点を置くPetuumでエンジニアリング部門のバイスプレジデントを務めるチーロン･ホー氏は、「機械学習やAIに対応する新世代チップを提供しているベンダーは、Googleだけではない。あらゆるチップメーカーが、この課題に取り組んでいる」と語る。

　「ARMやAdvanced Micro Devices（AMD）、Intel、NVIDIA、Qualcomm Technologiesなど、複数の企業が、機械学習や人工知能向けのハードウェアを提供している」とホー氏は話す。

　ただし専門家は、製品比較や、各製品の長所や短所を判断するには時期尚早だとしている。

　「TPUは、あくまで機械学習用に設計されているため、他の作業には使用できない可能性がある。そのため、TPUに処理させる作業の種類は制限される」と、ホー氏は話す。

　例えば、機械学習以外の作業にも対応できるGPUと比較しても、「TPUは極めて特化されたデバイスだ」と、同氏は指摘する。

　GoogleのCloud TPUの作業量当たりの価格やコストは、まだ発表されていない。専門家は、企業のIT部門にとって、同製品のコストやROIは依然として不明瞭だと指摘する。同製品の導入に当たっても、他のコンピューティングオプションのコストが公開されていないため、他製品との価格の比較も不可能だという。

　機械学習のタスクをオンプレミスで実行することを望む企業や、オンプレミスで実行しなければならない企業は、GoogleのTPUを利用できない。Googleは、同社のクラウド経由でしかTPUを提供していない。

　「機械学習とAI分野は急速に進化しているため、たった1つのテクノロジーを当てにするのは時期尚早だ。重要な問題は、高速処理に何の設備を使えるかではない。むしろ、今後数年で、どの部分のアルゴリズムが飛躍的に進化するかだろう」と、エスマエイルザデフ准教授は語る。

印刷する