NVIDIAによると、Blackwellは2080億個のトランジスタを搭載し、大規模言語モデル（LLM）の大量データの高速処理ができる。GPU間の帯域幅は1.8TBpsだという。Amazon Web Services（AWS）、Google、Microsoftの大手クラウドベンダーはBlackwellの発表に合わせ、同技術を採用する計画を明らかにした。

　今後は生成AIを本格的に導入する動きが広がる見込みだが、AI技術の利用を巡るさまざまな課題が浮上している。一つは、AI技術の導入にはそれに適したインフラが必要になるため、コストがかさむということだ。AI技術をどう利用すれば、その投資に見合うだけの価値を引き出せるかという点も経営者の悩みどころになる。

　組織はAI技術の導入に際し、クラウドサービスを利用するか、システムをオンプレミスで構築するかを決めなければならない。米TechTargetの調査部門Enterprise Strategy Group（ESG）は、「データを迅速に利用できるようにするためにオンプレミスでシステムを構築するニーズが旺盛だ」と説明する。

　そうした中、Dell TechnologiesやHitachi Vantara、Pure Storageといったハードウェアベンダーは、AI技術を活用するための製品やサービスの開発にNVIDIAと連携して取り組んでいる。GTC 2024ではそうしたインフラ製品のプロトタイプが披露された。AI技術の利用に最適化したインフラ製品が増えることにより、組織にとっての選択肢が広がる。ただし、それと同時に適切な製品を見極めることも難しくなる。

　自社に最適なインフラを採用するに当たり、組織はAI技術を何のために活用するのかをまず明確にする必要がある。使用するデータの量やAIモデルの学習に使うパラメーターの数などに加え、独自のAIモデルを開発するのか、既存のAIモデルを用いるのかを決めなければならない。

　AI技術の用途によってインフラに求められる条件が大きく異なる。製品選定をする際は、ベンダーに相談してみるのも手だ。AI技術の活用に関連する製品ラインアップが豊富なベンダーであれば、製品の選定ポイントや利用方法などについて参考になるアドバイスを提供してくれるはずだ。AI技術の利用に最適なデータ選びをベンダーが支援してくれる場合もある。

　AI技術は近い将来、企業をはじめとした組織の業務を大きく変える可能性がある。AI技術を活用する方針が明確になったら、投資を惜しまず、AI技術を利用するためのインフラの整備に早期に乗り出すことが重要になる。AI技術の用途とそれに必要なデータを見定めた上で、パートナー企業の協力を得て「土台づくり」に取り組むことが成功の鍵だ。