ここ数十年、IntelのCPUが、データセンターのほとんどのワークロードを支えてきた。IT部門がEコマースシステムなど、パフォーマンスの高いアプリケーションの導入を迫られた場合、新たなワークロードの対応に必要な数だけIntelのプロセッサを追加するという、非常に簡単でコスト効率性も高い手法を採用できた。

　機械学習アプリケーションがこうした状況を変えた。従来のエンタープライズアプリケーションが主に扱ってきたのは構造化されたデータだ。こうしたデータにはCPUの追加で十分対応できた。しかし従来とは異なり、機械学習アプリケーションは構造化されていないデータセットを大量に利用する。こうしたデータセットはワークロードのパターンを散発にして、処理サイクルを滞らせる可能性がある。

　「機械学習アプリケーション、特に深層学習は、数十億ビットから数兆ビットに及ぶ膨大な量のデータを処理する」（フロイント氏）

　機械学習システム処理の最終結果が従来のアプリケーションとは異なると指摘するのは、Gartnerで調査ディレクターを務めるアラン・プリーストリー氏だ。

　「従来のアプリケーションは規則に基づき、結果は『はい』か『いいえ』になる。機械学習は確率に基づく結果を導き出す。例えばある対象物がギターである確率は94％、犬である確率は3％、それら以外のものである確率は3％という結果になる」（プリーストリー氏）

　機械学習アプリケーションにはこのように独特の要件があるため、従来のCPUやGPUでさえ、常にこうした要件を効率良くサポートできるわけではない。GPUは最近、計算処理を集中的に実行する大規模ワークロードによく使われるようになっている。その結果、多くのITチームが、特別に設計された高価なスーパーコンピュータで機械学習アプリケーションを実行している。しかしクラウドの普及がこうした状況を変えつつある。企業はIaaSプロバイダーがAIと機械学習アプリケーション用に特別に設計したテクノロジーに、必要に応じてアクセスできるようになった。

　GoogleのCloud TPUは、同社が他に提供する機械学習サービスと合わせて、同社の壮大な構想に大きな役割を果たし、クラウド市場で有力な地位を築く手助けになっている。

　「Googleは、今後も自社を人工知能と機械学習ベンダーとして見据えている」（フロイント氏）

TensorFlowとGoogle Cloud TPUの制限事項

　GoogleはオープンソースのTensorFlowフレームワークを念頭に置いてTPUチップを設計した。このチップは同社の社内で用いられていたもので、今は「Google Cloud Platform」のサービスとして利用できる。機械学習を後押しする業界は、自動車から製造まで多岐にわたる。そのため今後はTensorFlowを中心として、目的に特化したアプリケーションが大量に開発されると予想される。

　しかしこうしたテクノロジーを扱う開発者やITチームは、幾つかの課題に直面する。例えばGoogle Cloud TPUとTensorFlowが利用できる開発、監視、管理のツールの数はまだそれほど多くない。場合によっては、機械学習アプリケーションを既存のシステムに統合する必要が生じることがある。こうしたツールセットの成熟度が足りないと、かなりの労力が必要になる。

　コストが問題になる企業もある。GoogleはCloud TPUの料金を、米国で利用する場合1TPUにつき1時間あたり当たり6.5ドルに設定している。これはTPUを接続する必要のあるCompute EngineのVMのコストとしては最も高額だ。同社は、1TPUにつき1時間あたり当たり1.95ドルとコストを抑えた「プリエンプティブTPU」も用意しているが、このTPUはコストの安さと引き換えに、Google側がリソースの需要に応じていつでも処理を終了できる。

　これに対し、Googleが提供する最低価格のGPUモデル（NVIDIAの「Tesla K80」）は、米国で利用する場合のオンデマンド価格は最低価格1ダイにつき1時間あたり当たり0.49ドル、プリエンプティブオプションでは最低価格1ダイにつき1時間あたり当たり0.135ドルの料金設定になっている。TPUと同じく、ユーザーはGPUに接続するVMインスタンスごとに個別に課金される。

　Googleはクラウド機械学習市場で大きく前進しているが、この市場に参加するのはGoogleだけではない。同社はAmazon Web ServicesやMicrosoftなどの大手パブリッククラウドベンダーだけでなく、IBMのような企業やこの新興市場をターゲットにする多数のスタートアップ企業を相手に激しい競争を繰り広げている。最終的に企業ユーザーの支持を受けるのがどのベンダーなのかは、これから先の動き次第だ。