AIの拡大で増大するカスタムハードウェア需要：GPUやTPUは必須

AIへの投資は今後も増えるだろう。そのAIを支える機械学習にはGPUやTPUといったカスタムハードウェアによるアクセラレーションが必須だ。

[Cliff Saran，Computer Weekly]

　人工知能（AI）への2019年の投資額（欧州全域）は前年比49％増になる見込みだという。IDCのCustomer Insight & Analysisで上級リサーチアナリストを務めるアンドレア・ミノン氏は次のように話す。「Sephora、ASOS、Zaraといった多くの小売企業やNatWest（National Westminster Bank）、HSBCなどの銀行は、既にAIのメリットを実感している。来店者数と収益の増加、コスト削減、パーソナライズされたより快適な顧客体験などがその例だ」

　CPUベースのコンピュータアーキテクチャは、機械学習タスクには適さないというのが業界共通の認識だ。現状では、GPUが機械学習の実行に必要なパフォーマンスを提供している。

　だがWebを利用する大手企業はさらに高いレベルのパフォーマンスを必要とし、AIの処理を加速するカスタムアクセラレーションハードウェアを開発しつつある。Financial Timesが2019年2月に報じたFacebookの動向によると、Facebookは機械学習向けに独自チップを開発しているという。

　2016年、GoogleはTPU（Tensor Processing Unit）というASIC（Application Specific Integrated Circuit：特定用途向け集積回路）を公開した。機械学習に特化したチップで、DNN（Deep Neural Network）深層学習フレームワーク「TensorFlow」に最適化されている。

　当時、Googleの卓越したハードウェアエンジニアだったノーマン・ジョアッピ氏は次のように述べている。「当社のデータセンターはTPUを既に1年以上運用しおり、1ワット当たりの機械学習パフォーマンスが桁違いに優れていることが分かっている。これは約7年後の未来（ムーアの法則の第三世代）の技術にほぼ匹敵する」

　TPUは「Google Cloud Platform」（GCP）で利用できる。最上位バージョンの「v2-512 Cloud TPU v2 Pod」は現在αテスト中で、使用料はPodスライス/時間当たり384ドルだ（訳注）。

訳注：Googleの「Colaboratory」で（若干制限はあるが）GPUとTPUを無料で使うことができる。Colaboratoryは不定期に仕様が変更されておりGPUやTPUの詳細も公表されていないが、2019年4月末時点のGPUは「NVIDIA Tesla T4」（nvidia-smiコマンドで確認可能）。

　ASICは特定アプリケーションの実行専用に設計する。TPUの場合はTensorFlow DNNモジュールがこれに当たる。そのため極めて高額になり、用途も限定される。「Microsoft Azure」はFPGA（Field Programmable Gate Array）を使ってアクセラレーションを提供している（訳注）。Microsoftによると、FPGAはASICに近いパフォーマンスを実現するという。

　「FPGAは新しいロジックの実装や再構成が可能になる。ハードウェアアクセラレーションを利用する機械学習アーキテクチャを当社は『Brainwave』と呼んでいる。これはIntelのFPGAをベースに『データサイエンティストや開発者がリアルタイムAI演算を高速化できる』ようにしている」（Microsoft談）

訳注：ASICは回路設計の段階で目的に最適化してチップを製造するのに対し、FPGAは論理回路をソフトウェア的に変更できる。

GPUによる速度向上

　機械学習を高速化しようと考える多くの組織の出発点となるのは、ほぼ間違いなくGPUだ。NVIDIAによると、AIアプリケーション向けにDNNを学習させるのにGPUは非常に適しているという。

　「ニューラルネットワークは多数の同一ニューロンで作成される。そのため本質的に並列性が高い。GPUは並列処理に対応しており、CPU単独での学習よりも必然的に大幅な高速化を実現する」（NVIDIA談）

　MathWorksで並列コンピューティングツールのシニアエンジニアリングマネジャー兼プリンシパルアーキテクトを務めるジョス・マーティン氏は次のように話す。「GPUやそれによる高速演算が登場しなければ、この分野の躍進は見られなかっただろう。AI開発とGPUコンピューティングは密接に関係しながら互いの成長を後押ししている」

　GPUはここ数年の進歩により、「混合精度アルゴリズム」がサポートされるようになったと同氏は話す。

　機械学習向けのGPUは、Amazon Web Services（AWS）の「Amazon EC2 P3」など、クラウドで簡単にアクセスできる。Amazon EC2 P3は最大8個の「NVIDIA Tesla V100」と最大100Gbpsのネットワークを1時間当たり31.22ドルで提供する。

　当然、機械学習が処理するデータはクラウドに配置する必要がある。規制やサイズによってデータをクラウドに置けない場合は、自社独自の機械学習アクセラレーターを構築することになる。

　その一例が、モスクワにあるTinkoff Bankだ。同行は、機械学習とAI向けのプラットフォームを自社開発するという戦略を採り、独自のスーパーコンピュータ「Kolmogorov cluster」を構築した。10ノードのNVIDIA Tesla V100で構成され、倍精度浮動小数点（FP64）のピーク時パフォーマンスは最大658.5TFLOPSを実現する。その規模はロシアで8番目に大きいといわれている。

　同行によると、AIアクセラレーションハードウェアは、13年間の累積データ全体を使って売り上げ見込みの予測モデルを再学習するのに、たった24時間しかかからないという。従来の手法では、同じ予測モデルを学習するのに6カ月必要だった。

　今後の機械学習の速度向上には、量子コンピュータが重要な役割を担うことになるだろう。マサチューセッツ工科大学とオックスフォード大学がIBMのQ部門と共同で、データ内の一意属性を識別する特徴マップ技術を量子コンピューティングで高速化する方法を示した実験についての記事も参照してほしい。