NPU搭載の“AIノートPC”はなぜCPUではなく「専用プロセッサ」を使うのか？

プロセッサベンダーはノートPC市場に向けて、AIモデルが稼働可能なプロセッサを投入している。その理由を考えるために、まず「AIとは何なのか」を理解しておこう。

公開 2024年02月07日 05時03分

著者

Bryan Betts

[TechTarget]

印刷する連載新着通知を受け取る

　Advanced Micro Devices（AMD）やQualcomm、Intelなどのプロセッサベンダーは、特に極薄ノートPC市場に狙いを定めて、AI（人工知能）モデルを動かすための最新のプロセッサを提供している。こうした極薄ノートPCにAIモデルが必要なのはなぜか。Intelがあらゆる場所でAI技術を活用することを目標に掲げるプログラム「AI Everywhere」を推進する動機は何か――。こうした疑問に答えるには、まず「AIとは何なのか」を理解する必要がある。

実際のところ「AI」は何をしているのか

併せて読みたいお薦め記事

プロセッサ業界のAI戦略

　AIはチャットbotなどのインテリジェントアシスタントだけを指す言葉ではない。AI技術は非常に幅広い分野をカバーする技術であり、中には長年にわたって使われ続けているものもある。

　もう一つ重要なこととして、AIモデルの「ワークロード」（処理するタスクや作業）の大部分は推論であることを認識しておかなければならない。推論とは、トレーニングされたAIモデルを入力データに適用して予測や判断をすることだ。ベンダーがアプリケーションにAI技術を組み込むようになるにつれて、AIモデルが稼働可能なノートPCやスマートフォン、その他のモバイルデバイスも登場している。

　推論は複雑な作業だが、それよりもAIモデルをトレーニングする作業の方がマシンに負荷が掛かる。トレーニングには何百、何千基もの高性能GPU（グラフィックス処理装置）が必要だ。

　AIモデルによる推論は、例えば以下の分野に役立っている。

顔認識
Web会議アプリケーションでのリアルタイムの背景ぼかしや視線追跡
画像、映像編集
3D（3次元）モデリング
AR（拡張現実）／VR（仮想現実）
データ分析

推論に適したハードウェアとは？

　AIワークロードをクラウドサービスで実行することは可能だ。ただし遅延が生じるだけではなく、ネットワークとクラウドコンピューティングの両方の面でコストが発生する。機密情報を含む可能性がある大量のデータを送受信するというガバナンス面の懸念もある。

　これらの問題を考えると、AIモデルの推論のために送信するデータを精査して容量を削減することは重要だ。こうした前処理の役目を担うのがCPUやGPUだ。

　PCが搭載するCPUやGPUで推論を実行することも可能だが、演算にはそれなりの時間を要する上に、非常に熱くなりやすい。これは高性能GPUが大きなヒートシンク（冷却用パーツ）とファンを備えていることからも明らかだ。「NPU」（Neural Processing Unit）のようなAIモデル稼働用のハードウェアであれば、推論に掛かる時間と電力の両方の削減が期待できる。

　次回は、プロセッサベンダーがノートPC市場を狙う理由を掘り下げる。