新興チップメーカーの挑戦
GPUを超える「IPU」(Intelligence Processing Unit)は実現するか?
「演算能力とデータが増えれば、データを学習する本質的にシンプルなプログラムで高性能なアルゴリズムになり、根本的なブレークスルーを生み出せる」と話すのは、英国を拠点とする新興チップメーカーGraphcoreの共同設立者兼CEOを務めるナイジェル・トゥーン氏だ。
こうした動きは、自然言語処理(NLP)の分野で始まっている。2019年5月、Googleの研究者が「BERT」(Bidirectional Encoder Representations from Transformers)という双方向Transformerに関する論文を発表した(訳注)。BERTは、事前学習した大量のコーパス(言語情報)をベースとした汎用(はんよう)的な言語モデルで、感情分析をはじめとするNLPを向上させる道を切り開くと期待されている。
訳注:BERT自体は2018年10月11日に発表されている。また、BERTのベースとなるTransformerもGoogleが発表したニューラルネットワークで、LSTMに代表されるRNNが主流だったNLPを一歩前進させるものとして注目されている。
こうしたネットワークが利用するモデルではパラメーター数が増大する。その数が数億にも達することがあるため、演算には新たなパラダイムが必要になる。
業界でAI利用への関心が高まっていると感じたトゥーン氏が、サイモン・ノールズ氏と共同でGraphcoreを設立したのは2016年のことだ。同社は、自社が名付けた「Intelligence Processing Unit」(IPU)の開発を目指している。
マシンインテリジェンス
トゥーン氏によると、「マシンインテリジェンス」の実現を妨げる問題を幾つか解決するためにIPUを設計したという。
「現状のマシンインテリジェンスを見ると、主に静的データを分類し、ラベル付けした大量のデータを使ってシステムをトレーニングしている。このシステムは、経験から学ぶことはない」(トゥーン氏)
同氏はNLPを例に挙げて次のように話す。「本当に必要なのは、単語の並び、各単語の意味、そして会話の文脈を理解するマシンだ。マシンは会話の文脈を記憶し、記憶した文脈を使ってその後の会話を理解する」
IPUは処理速度と効率を向上させるために、IPU自体が機械学習モデルとデータを保持する。遅延を最小限に抑えるため、IPUには外部メモリを配置しない。「大容量メモリが離れた位置にある場合、後からストリーミングすることは可能だ。だが演算中は全てのデータをプロセッサ内に保持する」とトゥーン氏は話す。
各IPUは1216の特殊コアを備える。各コアには6つの独立したプログラムスレッドがあり、機械学習モデルで並列に動作する。IPUは125TFLOPSの演算性能を実現する。
「そのため、モデルをレイヤー別ではなく複数のレイヤー全体で見ている。さらには、一つの問題を解決するために、複数のIPUを連携させることもできる。状況を把握し、複数のプロセッサで多数の並列処理を行うことができる」(トゥーン氏)
トゥーン氏によると、IPUのアーキテクチャはトレーニングにも推論にも適しているという。現在の機械学習は、トレーニングと推論を独立したタスクとして扱うことが多い。
「今後、経験から学ぶ確率的なシステムが実現すれば、そのシステムは導入後も経験から学び続けるだろう。そうなればトレーニングと推論の境界はなくなる」と同氏は話す。
ソフトウェア面では、IPUは「TensorFlow」などの著名な機械学習フレームワーク(訳注)やGraphcore独自のグラフフレームワークをサポートする。このフレームワークを使って、開発者がライブラリ関数やニューラルネットワーク機能を独自に開発できる。
訳注:Graphcoreの資料には、TensorFlowの他に「PyTorch」や「MXNet」をサポートするとある。
Graphcoreは設立以来3億ドル(約321億円)の資金を調達してきた。同社は貸借対照表上多くの現金を保有し、2020年には多くの収益を得ることを期待しているとトゥーン氏は述べている。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly日本語版
この記事の著者
関連記事
新着ホワイトペーパー PR
-
課題解決
[NTT東日本株式会社] いま建設業に「10ギガ光回線」が必要な理由とは? -
課題解決
[NTT東日本株式会社] 情報漏えいも業務停止もさせない「止まらないネットワーク」への第一歩は? -
課題解決
[NTT東日本株式会社] 情報漏えいや業務停止に備える、安心・安定のネットワーク環境とは? -
事例
[Wrike Japan 株式会社] 年間100件超でも“プロジェクト炎上”を回避、JERAの管理体制は何が違うのか? -
事例
[Wrike Japan 株式会社] プロジェクト納品時間を最大40%短縮 事例で見る「劇的な高速化」の実現方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
2
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
3
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
4
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
5
Claudeを使い続けて大丈夫か? IPOで見えるAnthropicの財務と新機能
-
6
「エンタープライズAI活用・基盤整備」に関するアンケート
-
7
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
-
8
企業が「Microsoft Azure」を選ばざるを得ない理由
-
9
紙やExcelにもう頼らない、建設業の「情報管理」をデジタル化する注目手法とは
-
10
AI時代のPC選定は“適材適所” 情シスが押さえておきたい3つの選択肢とは?
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
6
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
「止まらない」と「シンプル運用」を両立、四街道市新庁舎を支えるネットワーク
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー