新興チップメーカーの挑戦
GPUを超える「IPU」（Intelligence Processing Unit）は実現するか？
「演算能力とデータが増えれば、データを学習する本質的にシンプルなプログラムで高性能なアルゴリズムになり、根本的なブレークスルーを生み出せる」と話すのは、英国を拠点とする新興チップメーカーGraphcoreの共同設立者兼CEOを務めるナイジェル・トゥーン氏だ。
こうした動きは、自然言語処理（NLP）の分野で始まっている。2019年5月、Googleの研究者が「BERT」（Bidirectional Encoder Representations from Transformers）という双方向Transformerに関する論文を発表した（訳注）。BERTは、事前学習した大量のコーパス（言語情報）をベースとした汎用（はんよう）的な言語モデルで、感情分析をはじめとするNLPを向上させる道を切り開くと期待されている。
訳注：BERT自体は2018年10月11日に発表されている。また、BERTのベースとなるTransformerもGoogleが発表したニューラルネットワークで、LSTMに代表されるRNNが主流だったNLPを一歩前進させるものとして注目されている。
こうしたネットワークが利用するモデルではパラメーター数が増大する。その数が数億にも達することがあるため、演算には新たなパラダイムが必要になる。
業界でAI利用への関心が高まっていると感じたトゥーン氏が、サイモン・ノールズ氏と共同でGraphcoreを設立したのは2016年のことだ。同社は、自社が名付けた「Intelligence Processing Unit」（IPU）の開発を目指している。
マシンインテリジェンス
トゥーン氏によると、「マシンインテリジェンス」の実現を妨げる問題を幾つか解決するためにIPUを設計したという。
「現状のマシンインテリジェンスを見ると、主に静的データを分類し、ラベル付けした大量のデータを使ってシステムをトレーニングしている。このシステムは、経験から学ぶことはない」（トゥーン氏）
同氏はNLPを例に挙げて次のように話す。「本当に必要なのは、単語の並び、各単語の意味、そして会話の文脈を理解するマシンだ。マシンは会話の文脈を記憶し、記憶した文脈を使ってその後の会話を理解する」
IPUは処理速度と効率を向上させるために、IPU自体が機械学習モデルとデータを保持する。遅延を最小限に抑えるため、IPUには外部メモリを配置しない。「大容量メモリが離れた位置にある場合、後からストリーミングすることは可能だ。だが演算中は全てのデータをプロセッサ内に保持する」とトゥーン氏は話す。
各IPUは1216の特殊コアを備える。各コアには6つの独立したプログラムスレッドがあり、機械学習モデルで並列に動作する。IPUは125TFLOPSの演算性能を実現する。
「そのため、モデルをレイヤー別ではなく複数のレイヤー全体で見ている。さらには、一つの問題を解決するために、複数のIPUを連携させることもできる。状況を把握し、複数のプロセッサで多数の並列処理を行うことができる」（トゥーン氏）
トゥーン氏によると、IPUのアーキテクチャはトレーニングにも推論にも適しているという。現在の機械学習は、トレーニングと推論を独立したタスクとして扱うことが多い。
「今後、経験から学ぶ確率的なシステムが実現すれば、そのシステムは導入後も経験から学び続けるだろう。そうなればトレーニングと推論の境界はなくなる」と同氏は話す。
ソフトウェア面では、IPUは「TensorFlow」などの著名な機械学習フレームワーク（訳注）やGraphcore独自のグラフフレームワークをサポートする。このフレームワークを使って、開発者がライブラリ関数やニューラルネットワーク機能を独自に開発できる。
訳注：Graphcoreの資料には、TensorFlowの他に「PyTorch」や「MXNet」をサポートするとある。
Graphcoreは設立以来3億ドル（約321億円）の資金を調達してきた。同社は貸借対照表上多くの現金を保有し、2020年には多くの収益を得ることを期待しているとトゥーン氏は述べている。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly日本語版
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[ポールトゥウィン株式会社] 開発スピードと品質を両立、DONUTSが実践する「ハイブリッドなQA体制」の構築術 -
製品レビュー
[ポールトゥウィン株式会社] 開発スピードと品質は両立できる？ DONUTSの「ジョブカン」に学ぶQA戦略 -
市場調査・トレンド
[レッドハット株式会社] 「プラットフォームエンジニアリング」調査レポート：利点・課題・未来像を詳説 -
市場調査・トレンド
[レッドハット株式会社] 生成AI活用のためのテクノロジー基盤、構築に際しての7つの検討事項とは？ -
製品資料
[レッドハット株式会社] ビジネスの現場へのAI導入と活用、何から始めてどのように進めるべきか？
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
【漫画付き】ひとり情シス協会が明かす、RAG導入でしくじる企業「2つの共通点」
-
2
1200万円のSaaS導入を回避 スギ薬局「運用費10万円」のAIエージェント構築術
-
3
IBM iのブラックボックス化を打破 資産継承と進化を実現する「IBM Bob」の実力
-
4
年収700万超エンジニアに共通するスキルと「もっと勉強すべきだった分野」
-
5
「完璧な設計」なのに3000万円溶けた AWSの失敗事例から学ぶ3つの教訓
-
6
「サイバー犯罪株式会社」に潜入 現地調査で判明した“犯罪者求人”の実態
-
7
人間のせいでAIエージェントの生産性が上がらない
-
8
「企業におけるAIの運用」に関するアンケート
-
9
AIエージェント暴走をミリ秒で隔離 NVIDIAがハードで挑む暴走抑止
-
10
AIプロジェクトが“目的不明”で凍結する理由 問題は「ツール選定」ではない？
ホワイトペーパーランキング PR
-
1
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
2
バックアップは“取っているから大丈夫”なのか？ ランサムウェア時代の備え方
-
3
ネットワーク遅延の原因、「パケットロス」の基礎知識と効果的な解決策
-
4
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
5
5分で分かる Microsoft 365のデータ損失に備えるためのバックアップの仕組み
-
6
AI活用を停滞させる「2：6：2の壁」を乗り越えるためのポイントとは？
-
7
ソフトウェア開発の属人化と手戻りをどう防ぐ？ 速さと品質を両立させる方法
-
8
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
9
複雑な組織構造で一度は頓挫した電子化、東京女子医科大はどう全学展開したか
-
10
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー