Gartnerのアナリストが警鐘

生成AIが“金食い虫”になる理由　予算オーバーを防ぐ2つのアプローチとは

企業は生成AIの活用で費用を浪費してしまうことをGartnerのアナリストは指摘する。なぜ無駄が生じるのか。“隠れコスト”を抑えるための2つの方法とは。

公開 2024年11月12日 17時03分

更新 2024年12月03日 00時17分

著者

Cliff Saran

[TechTarget]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

　テキストや画像などを自動生成するAI（人工知能）技術「生成AI」は、調査会社Gartnerが定義する「ハイプサイクル」では「過度な期待」のピーク期を過ぎたが、依然としてユーザー企業の期待に応えられていない──。Gartnerがバルセロナで開催したカンファレンス「Gartner IT Symposium/Xpo」で、アナリストがそう警鐘を鳴らした。

　なぜ企業の生成AI活用はうまくいっていないのか。Gartnerのアナリストが言及した課題の一つは、「生成AIは費用を無駄にしやすい」という点だ。どのような理由で無駄が生じるのか。

生成AIが“金食い虫”になる理由

　Gartnerによると、生成AIの概念実証（PoC）プロジェクトの実施には30万～200万ドルの費用がかかる可能性がある。一部のITリーダーとビジネスリーダーは、高価なGPU（グラフィックス処理装置）を使用し、AIモデルをトレーニングするのに費用がかかることを認識している。

　AIモデルの推論プロセスにかかる費用が膨れ上がる可能性もある。Gartnerの主任リサーチアナリスト、ダリル・プラマー氏は、AIモデルの処理にコストがかかる理由を次のように説明する。「AIモデルが処理しなければならない大量の演算にはGPUが必要だ。そのためにユーザー企業はGPUを自社のデータセンターに導入するか、クラウドベンダーから借りることになるが、いずれも高額だ」

　プラマー氏は、AIベンダーがAI技術の進化をベンダーの視点から捉えるあまり、ユーザー企業が目指す目標の実現に寄り添えていないとも指摘した。同氏は「AIベンダーは1つのミスを犯している。それは、われわれに『何ができるか』を示しているだけで、『何をすべきか』を示していない点だ」と述べる。

　プラマー氏によると、AIベンダーが提供する先進的なAI技術を導入する準備が整っていない企業は、予算の大部分をコンサルティング費用に充て、新技術が自社にもたらす利益を理解しようとしている。

　「その段階から概念実証段階に到達するためには、さらなる予算が必要だ」とプラマー氏は述べ、AIシステムが実運用に移行するまでコストが増加し続けると付け加える。

費用を抑える2つのアプローチ

　生成AI活用にかかる費用を抑えるにはどうすればよいのか。Gartnerのリサーチ部門のバイスプレジデントであるアリシア・マラリー氏は、ユーザー企業に対して請求書の内容を理解し、監視するよう助言する。

　Gartnerは失敗を最小限に抑えるために、2つのアプローチを推奨する。1つ目のアプローチは、生産性向上のためにAI技術の導入を試みる企業向けの方法だ。

　アナリストは、ITリーダーが達成したい成果を考慮する必要があると説明する。業務効率の改善を目的とするユーザー企業（Gartnerは「AI-steady」と呼称）は、10件以下の実証実験を実施している可能性がある。その場合、AIシステムが正しく機能しているかどうかを、人力で監視可能だ。

　2つ目は、変革を促すためにAI技術を活用しようとする企業向けの方法だ。生成AIを業界変革の技術と見なす企業（Gartnerは「AI-accelerated」と呼称）は、より多くの実証実験を実施している場合がある。こうした企業が目指すAIシステムは、人力で管理することは現実的ではない。

　こうした理由から、AIシステムのコンプライアンスを確保する技術「TRiSM」（信頼、リスク、セキュリティ管理）が台頭するとGartnerは予測する。

TechTarget.AIとは

TechTarget.AI編集部は生成AIなどのサービスを利用し、米国TechTargetの記事を翻訳して国内向けにお届けします。

印刷する

TechTarget.AI

TechTarget.AI編集部は生成AIなどのサービスを利用し、米国TechTargetの記事を翻訳して国内向けにお届けします。

連載新着通知を受け取る

この連載の記事をもっと見る

この記事の著者

Cliff Saran

最先端の研究開発からシステム管理の課題、レガシーシステムの保守・運用まで、幅広い分野で記事を執筆。ブログ「Cliff Saran’s Enterprise blog」を更新し、激変するIT市場を独自の視点で分析している。

生成AIが“金食い虫”になる理由　予算オーバーを防ぐ2つのアプローチとは

生成AIが“金食い虫”になる理由

費用を抑える2つのアプローチ

TechTarget.AIとは

TechTarget.AI

この記事の著者

関連記事

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

生成AIが“金食い虫”になる理由 予算オーバーを防ぐ2つのアプローチとは

生成AIが“金食い虫”になる理由

費用を抑える2つのアプローチ

TechTarget.AIとは

TechTarget.AI

この記事の著者

関連記事

「生成AIなんて要らない」派の企業の言い分

“利益を生む”ための「AI戦略」とは？ 押さえておきたいAI活用術10選

新着ホワイトペーパー PR

瞬時にM365が乗っ取られる――全社員に周知すべき“新フィッシング”の教訓

生成AIが“金食い虫”になる理由　予算オーバーを防ぐ2つのアプローチとは

“利益を生む”ための「AI戦略」とは？　押さえておきたいAI活用術10選