データ管理者が知っておきたい

GPUディープラーニングのためのインフラ構築とは？

GPUを使ったディープラーニング（深層学習）が一般的になっている。これに伴いデータ管理者は、大量の計算が可能なインフラを構築する必要がある。

公開 2018年04月10日 09時01分

更新 2018年04月09日 10時55分

著者

Jack Vaughan

[TechTarget]

印刷する

　ビッグデータ分野では人工知能（AI）に関連してディープラーニング（深層学習）や機械学習の技法が共通の話題になっている。データ管理者は、さまざまな理由で、このトレンドから目が離せない。中でもとりわけ重要なのは、こうした新しいテクノロジーが現代のデータインフラに影響を及ぼす可能性だ。

　議論の中心になりつつあるのはGPU（グラフィックスプロセッシングユニット）だ。GPUはAIの観点でも構想として定着し始めている。GPUを使ったディープラーニングの開発はあまり話題にはなっていないが、その開発速度は上がっている。

　ディープラーニングはAIや機械学習の一種で、大量のデータセットから成り立つニューラルネットワークを処理する。GPUを使ったディープラーニングでは、ハードウェアと高度なソフトウェアが特に効果的に組み合わせられる。そのユースケースは、レコメンデーションエンジンから自動運転車まで幅広い。

　最近のGPUはメモリ帯域幅が非常に広い。そのためビッグデータを適切に処理できる。行列の乗算などがその例だ。つまりGPUはディープラーニングに必要な並列処理に向いている。並列処理は、特にディープラーニングモデル作成のトレーニング段階に効果がある。

　GPUは、CPUと比べればまだ使用頻度は少ない。そのためチップの値段が高く、GPUを活用できる開発者のコストも同じく高くなる。また、GPUの利用はAIのディープラーニングに限らない。分散処理フレームワークの「Apache Spark」、ごく最近ではYarnが組み込まれた「Apache Hadoop 3.0」でも利用されている。

併せて読みたいお薦め記事

ディープラーニングなどで期待されるGPU

ディープラーニングの使い道

GPUの歴史

　32bitの汎用（はんよう）CPU登場前の時代を覚えているデータ管理者なら、浮動小数点コプロセッサやアレイプロセッサ、そうしたプロセッサが一部のアプリケーションで果たす特別な用途を思い起こすだろう。

　新世代の開発者から、アプリケーションを大量の計算が可能なGPUインフラに移行する必要があると言われた管理者は、何に注意すべきだろう。その答えは、可変要素が数多く関わってくることだ。

　例えば、GPUを幾つか備えているサーバでも、ジョブの実行がその1台のサーバに限られていれば、やるべきことは決まる。Silicon Valley Software Groupでプラクティスマネジャーを務めるバーナード・フレンケル氏によると、ディープラーニングのジョブを複数台のサーバで実行する場合は注意が必要だという。注意するのはチップに関することだけではない。

　「複数台のサーバを使用する段階まで進むと、2台のサーバ間の帯域幅を許容できる確実な保証はない。サーバ間通信のオーバーヘッドを予測するのは難しい」（フレンケル氏）

サーバ間に浮かび上がる問題

　サーバ間に生じる問題は、クラウドプロバイダー、サーバホスティング企業、半導体メーカーが基板やサーバレベルで改善することが求められるとフレンケル氏は話す。だが、それぞれが改善することになれば、GPUを使ったディープラーニングの実装がそのGPUを実行しているシステムと一層密接に結び付くようになるため、別のシステムへの適切な移行がさらに難しくなる可能性がある。これが落とし穴になる。

　また、クラウドプロバイダーやホスティング企業などは、ソフトウェアの運用を自社の環境に合わせて最適化している。そのためオンプレミスやクラウドのディープラーニングシステムのホスティング環境を移し替える際に大きな負担になる。こうした移行の目的がコンピューティング能力の追加なら、当然、必要な予算も増加する。

　この分野の状況が急速に変化しているのを理解することが重要だとフレンケル氏は強調する。そのためデータ管理者はGPUディープラーニングが自社の差し迫った課題ではなくても、特別な関心を寄せておく必要がある。

　「AIのアプリケーションは、まだ初期段階にある。チップ、サーバ、データセンターなどのハードウェアと同様、アルゴリズムが今も急速に進化している」（フレンケル氏）

　その上CIO（最高情報責任者）は、特にAIアプリケーションの構築に関わる全ての層について学ぶ必要がある。「CIOは、全ての可変要素を評価し、説得力を得られるようになるべきだ。それは四半期で習得できるようなものではない」（フレンケル氏）

　この種のインフラの大きな変化は過去にもあったが、全く新しい変化もある。近年、ビッグデータ分析の進化がインフラの変化に影響を与えた。例えば列指向データベースや分散ファイルシステムがすぐに思い浮かぶ。だがチップレベルでの変化はどれも大抵わずかなものだった。

　ディープラーニングは、システムのチップレベルから変化を求めるとフレンケル氏は言う。また、特殊なユースケース向けに新たな大量のAIチップの準備が進んでいるため、GPU、機械学習、ディープラーニングは、ビッグデータ分析の将来の転換点になるかもしれない。

　今のところ、多くの管理者はGPUへは取り組まず、傍観者になるだけだろう。だが、GPUを使ったディープラーニングは急速に変化しており、大きな影響力を持つ可能性があるため、少し関心を高める方がよいかもしれない。

印刷する

この記事の著者

Jack Vaughan

GPUディープラーニングのためのインフラ構築とは？

併せて読みたいお薦め記事

ディープラーニングなどで期待されるGPU

ディープラーニングの使い道

GPUの歴史

サーバ間に浮かび上がる問題

この記事の著者

関連記事

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

GPUディープラーニングのためのインフラ構築とは？

併せて読みたいお薦め記事

ディープラーニングなどで期待されるGPU

ディープラーニングの使い道

GPUの歴史

サーバ間に浮かび上がる問題

この記事の著者

関連記事

GPUがけん引する“ハード黄金時代”、ディープラーニングやAI処理で需要高まる

徹底解説：GPUコンピューティングが急成長する理由と減速する懸念

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓