AIモデルのトレーニングには大量のデータだけでなくエネルギーを消費する。具体的にどの程度消費するのか。NVIDIAによる検証結果や各種の調査結果から、実態を明らかにする。
機械学習モデルなどの高度なAI(人工知能)モデルのトレーニングには、時間、コスト、データに加えて、大量のエネルギーが必要になる。企業が大規模なデータセンターにデータを蓄積して、そのデータを使ってAIモデルをトレーニングするまでの間には、膨大な電力量を消費する。AI技術は企業に金銭的利益をもたらす反面、環境に害を及ぼす側面もある。
AI技術の利用に必要な電力量は、どの程度なのか。言語データを基に単語の出現頻度をモデル化した「言語モデル」を例に、具体的な数字を見てみよう。
NVIDIAは言語モデル「Megatron-LM」の最終版のトレーニングにGPU(グラフィックス処理プロセッサ)「NVIDIA V100」を512基使用し、9日を費やした。V100の1基当たりの消費電力は250~300ワット。今回のトレーニングにおける1基当たりの消費電力を250ワットと想定すると、512基のV100の消費電力は12万8000ワット、つまり128キロワットだ。このシステムを9日間稼働させたということは、2万7648キロワット時の電力量をMegatron-LMのトレーニングに消費したということになる。
米エネルギー情報局によると、2019年における米国の1世帯当たりの年間平均電力量は1万649キロワット時だった。つまりMegatron-LMの最終版のトレーニングは、米国の3世帯分に相当する電力量を消費したということだ。
新しい技術により、AIモデルのトレーニングに必要なデータの量は以前より少なくなったものの、初期トレーニングには依然として大量のデータが必要だ。AIモデルを更新するにはさらにデータを追加しなければならない。
AI技術の複雑化に伴い、AIモデルが使用するデータはさらに増える見込みだ。そうなるとデータセンターが消費する膨大な電力量が問題になる。調査会社Deep Analysisの創業者アラン・ペルツ・シャープ氏は、「データセンターは環境に甚大な影響を及ぼす原因になる」と語る。
調査会社IDCの推計によると、2020年に世界中で生成されたデータは64.2Z(ゼタ)Bだった。エネルギーと気候分野のシンクタンクEnergy Innovationは、最大規模のデータセンターの中には100メガワット以上の電力容量が必要なものもあると分析する。
調査企業Synergy Research Groupの調査では、サーバ5000台以上、床面積1万平方フィート以上のデータセンター「ハイパースケールデータセンター」は2020年末時点で世界に約600カ所ある。これらのデータセンターが管理する全てのデータの保持に必要な電力量は不明だが、驚異的な数値になることは想像に難くない。
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
生成AIを活用して業務や顧客体験の再構築を進める動きが活性化しているが、その多くが、PoCやラボ環境の段階にとどまっている。なぜなら、生成AIの可能性を最大限に引き出すための、インフラのパフォーマンスが不十分だからだ。
昨今のソフトウェア開発では、AIコーディングアシスタントの活用が主流になっている。しかし、最適なコーディングアシストツールは、開発者や企業によって異なるという。導入の際は、どのようなポイントに注意すればよいのか。
生成AIの活用にはデータベースが重要となるが、従来のデータベースは最新テクノロジーに対応できないなどの課題がある。本資料では、データベースをモダナイズし、生成AIを用いてビジネスイノベーションを生み出すための方法を探る。
ビジネスにおいて、検索体験およびその結果の質の向上が重要なテーマとなっている。顧客はもちろん、自社の従業員に対しても、実用的な答えをより迅速に、手間なく入手できる環境の整備が求められている。
登場以来ビジネスへの活用方法が模索されてきた生成AI。近年では業務組み込みにおける具体的な成功例が数多く報告されている。本資料では、5件の生成AI活用事例を交えて、業務に組み込む上での具体的なアプローチを解説する。
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「マーケティングオートメーション」 国内売れ筋TOP10(2025年5月)
今週は、マーケティングオートメーション(MA)ツールの売れ筋TOP10を紹介します。
「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年4月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10(2025年4月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。