2021年10月27日 08時00分 公開
特集/連載

IBMがAIの推論を加速する「Telum」プロセッサを発表不正検出をリアルタイムに

IBMの新プロセッサ「Telum」はAIの推論に最適化されており、例えば不正検出をリアルタイムに処理できるという。Telumはどのようなアーキテクチャなのか。

[Cliff Saran,Computer Weekly]

 IBMが、メインフレーム「IBM Z」でのAI処理を高速化する「Telum」プロセッサを発表した。IBMのResearch AI Hardware Centerが3年以上かけて開発したこのチップは、スーパースカラー方式のアウトオブオーダー(命令の順序に依存しない)パイプラインを備え、5GHz以上のクロック周波数で動作する8つのプロセッサコアを搭載する。

 Telumは1コア当たりのキャッシュが32MBで、Telumを32個まで拡張できる。デュアルチップモジュール設計で220億個のトランジスタを搭載し、17層の金属層の配線は19マイル(約30キロ)に及ぶ。

 複雑な不正をリアルタイムに検知できないことは多い。そのため不正の発生に気付く前に、犯罪者が盗んだクレジットカードで商品を購入する可能性がある。

 Telumは取引中にAIの推論を可能にすることを目的としたオンチップアクセラレーションを搭載するIBM初のプロセッサだ。IBMのクリスチャン・ヤコビ氏(Zプロセッサのチーフアーキテクト)は、銀行、金融、保険の顧客に1秒当たり1万〜5万件の取引に対してリアルタイムにAIを実行できる能力を提供したいと語る。

iStock.com/KENGKAT

 アクセラレーションは、Zプロセッサコアの下でプログラミングされる新しい命令を使って実現している。「OSは介入しない」(ヤコビ氏)

 GPUベースのAIアクセラレーションとは異なり、「遅延の増加につながるPCIバス経由でのデータ送信は必要ない」と同氏は語る。

 Telumはデータが格納されているメモリに直接アクセスするという。TelumがAI処理に使われていないときは、通常の処理を実行させることもできる。

 Telumは「IBM z15」よりもソケットレベルのパフォーマンスが40%向上するとIBMはみている。ヤコビ氏は、IBMはソフトウェアによるさらなる最適化を予定していると言う。

 「ソリューションに必要なコードが階層化される。その階層はシリコンとプロセッサコアとAIアクセラレーターで実行されるファームウェアから始まる。このファームウェアは『行列演算』のようなさまざまな演算を実装する。その上位の層でOSとAIフレームワークソフトウェアを実行し、新しいNeural Network Processing Assist命令を活用する。この新しい命令がオンチップアクセラレーターへのソフトウェアレベルのビューになる」

 「このアプローチにより、クライアントはIBM Zや『IBM Power Systems』などにAIモデルを構築できる。構築したモデルはONNX形式にエクスポート可能だ。その後、IBM Zへのデプロイ用にIBM Deep LearningコンパイラがそのONNXモデルをコンパイルして最適化する。コンパイル後のモデルがTelumで実行され、TelumのAIアクセラレーターがハードウェア、ファームウェア、ソフトウェアを通じて直接活用される」(ヤコビ氏)

ITmedia マーケティング新着記事

news163.jpg

半熟チーズケーキ、半熟カステラの次に来るのは? クックパッド「食トレンド予測2022」
キーワードは「新感覚」。2022年に流行の兆しが見えてきた食・料理は?

news115.jpg

レクサスが欧州で展開した「視聴者の顔色」を見てパーソナライズする広告について
トヨタ自動車の「レクサス」ブランドが欧州で展開した「Feel Your Best」キャンペーンは...

news068.jpg

Criteoが考えるサードパーティーCookie廃止後のデジタル広告
サードパーティーCookie廃止は広告プラットフォーム事業者にとって大きな転換点となる。...