生成AIとLLMとNVIDIA【前編】
NVIDIAの新GPU「HGX H200」は何がすごいのか？ 進化した点は？
NVIDIAは生成AIやLLMの処理を効率化する新しいGPUを発表した。近年、AI技術の活用に乗り出す動きが企業に広がっている。企業が着目すべきGPUの特徴とは。
2023年11月13日月曜日（現地時間）、GPU（グラフィックス処理装置）ベンダーのNVIDIAはデンバーで開催された「Supercomputing 2023」(SC23)の特別講演で、新GPUの「NVIDIA HGX H200」（以下、H200）を発表した。SC23はスーパーコンピューティング、ネットワーク、ストレージの国際カンファレンスだ。
NVIDIAによると、H200はメモリにSK hynixの「HBM3e」を採用してメモリ容量を従来モデルから増やした。これは、テキストや画像などを自動生成するAI（人工知能）技術「生成AI」（ジェネレーティブAI）と大規模言語モデル（LLM）の処理効率化に役立つという。具体的にはどのような進化を遂げたのか。
GPU選びで大事な“あの指標”
さまざまな企業が生成AIやLLMの活用に乗り出している。とはいえ、こうしたAIワークロード（AI技術を組み込んだシステム）を処理するには一定以上の容量のメモリが必要だ。「メモリ容量は企業にとってしばしば課題になる」とコンサルティング企業J.Gold Associatesの創設者兼アナリストのジャック・ゴールド氏は指摘する。
「AIワークロードは、CPUやGPUだけでなく、メモリにも負荷を掛ける。メモリの処理性能を追加するほど、AIワークロードの実行速度に違いが出る」（ゴールド氏）
NVIDIAによると、「Amazon Web Services」（AWS）や「Google Cloud」「Microsoft Azure」「Oracle Cloud Infrastructure」などが、2024年からH200を使ったインスタンス（仮想マシン）をデプロイ（配備）する最初のクラウドサービスになるという。一般提供の開始は2024年下半期になる見込みだ。H200は前世代のモデルである「NVIDIA HGX H100」と互換性があるため、NVIDIAのユーザー企業はサーバシステムの設計を見直すことなくH200を使用できる。
後編はNVIDIAの他の新製品の紹介や、近年の戦略を分析する。
TechTarget発 世界のインサイト＆ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 世界のインサイト＆ベストプラクティス
米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
“攻撃者優位”なサイバーセキュリティ、全ての「穴」をふさぐ方法とは？ -
製品資料
実際に悪用される脆弱性は4％前後 優先的に対処すべき脆弱性を把握するには？ -
製品資料
HubSpotの機能を拡張する法人データ活用法 -
製品資料
面倒で非生産的な「名寄せ」作業 高精度＆高効率に実施するには？ -
製品資料
名刺管理には「その先」がある 成果のでない営業活動から脱却する秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
ISMSの“コンサル丸投げ”が招く数千万円の無駄 NTTドコモビジネスの脱出劇
-
2
仮想化環境の死角を“未知の脅威”が狙う時代――新たな敵をどう見破るか？
-
3
「VMware離れ」は本当か 3000社がVCF 9にかじを切った現実的な理由
-
4
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
5
「データストレージの活用方法」に関するアンケート
-
6
7割失敗する「AIでレガシーシステム刷新」の幻想 あの企業も選んだ現実解とは
-
7
Netflixのバックエンドは「ほぼJava」 3000超のアプリを支える開発基盤の裏側
-
8
レガシーコードを捨てJavaで勘定系を再定義 ソニー銀行、フルクラウド化の全容
-
9
ただなのに「12時間以内の復旧」も要求 無償OSSに商用レベルを求める企業の末路
-
10
「0.3秒のスピード顔認証」の入退室管理が社員に好評 事例に学ぶオフィス改革
ホワイトペーパーランキング PR
-
1
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
2
AIが「わざわざ使うツール」になっていない？ 業務で自然に使う導線にする秘訣
-
3
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
4
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
5
コスト分析で見る「デバイス復旧」の代償 損失額から導きだされた投資戦略とは
-
6
“あのファイル転送”で暗躍するノーウェアランサム
-
7
「結局、一部の人しか使わない」 AI活用が業務に定着しない根本的な理由
-
8
Macの安全神話は崩壊？ 最新の脅威動向から見えた攻撃のトレンドと有効な対策
-
9
3分で分かる経理DX 富士通が約20％の業務効率化を実現した方法とは
-
10
ランサムウェア攻撃を“二重の防御構造”で防ぐ、クラウド型基幹システムの実力
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー