AI運用費が人件費を超える逆転現象も?
3カ月で1年分の予算が消滅? AI導入で情シスが陥る「トークン破産」を防ぐには
LLMの利用拡大に伴い、AIのトークン消費によるコスト増大が企業の新たな課題となっている。Pegasystemsは、AIの利用量ではなくビジネス成果に応じて料金を設定する新たな課金モデルを紹介する。
大規模言語モデル(LLM)の利用コスト増大が、企業に再考を促している。AIモデルの高度化に伴い、クエリ当たりの「トークン」費用が大幅に増加した。一部では、驚くほど高額な請求が発生する事態も起きている。
AI活用には固有の変動性があり、タスクごとのコスト予測はもはや困難だ。CRM(顧客関係管理)ベンダーPegasystemsの最高技術責任者(CTO)、ドン・シューマン氏は「同じプロンプトでも、ある日は即座に回答が返ってくるが、別の日は5分かかり、月間のトークン予算の10%を消費することもある」と指摘する。
多くの企業は、組織にもたらすメリットを十分に検証しないまま、従業員にAI活用の最大化を促してきた。こうした「トークン利用の最大化」(トークンマクシング)は、企業に予想外の請求書を突き付けている。
2026年5月には、UberのCTOプラビーン・ネッパリ・ナガ氏が、同社で利用している「Claude Code」の2026年分の予算を、年初からわずか3カ月で使い果たしたことを明らかにした。
AIトークンのコスト増を避けるための勘所は
AIデータセンターへの投資圧力やエネルギーコストの上昇を受け、AIサプライヤーはここ数カ月で値上げに踏み切っている。これを受け、企業はAIへの支出が本当に見合うものなのかを問い始めている。
シューマン氏によると、人間をAIに置き換えたものの、結果としてAIの運用コストが、置き換えた人件費を上回ってしまったケースもあるという。
サンフランシスコ連邦準備銀行の総裁兼CEO、メアリー・デーリー氏は最近、ブルームバーグのインタビューでこう要約した。
「生産性の向上は、データ以外のあらゆる場所で見られる」
「モデルがより洗練されたことが原因だ」とシューマン氏は本誌Computer Weeklyに語る。
「モデルは自己推論を行い、必要に応じて他のエージェントを呼び出して別の処理を実行する。その処理が進む間も、トークン消費は増え続けているのだ」
AIコストの現実に目覚める企業
同氏は、AIのコストがモデルの計算回数に比例して直線的に増えるわけではないことに、企業が気付き始めていると主張する。
「プロセスの各ステップが積み重なることで、コストは増大していく」
AIを使ってビジネスプロセスを実行する場合、最初のステップに500トークンかかるとする。次のステップでは最初の文脈を引き継ぐ必要があるため1000トークン、3番目のステップでは1500トークンというように、必要なトークン数は増えていく。
計算が複雑になり、より多くのコンテキストが必要になると、コストが増すだけでなく、AIが「ハルシネーション」(もっともらしい誤情報)を起こしたり、予測不能な動作をしたりするリスクも高まる。
「大切なのは、反復可能なプロセスを正しく定義し、設計し、ベストプラクティスに沿っていることを確認することだ。そのためには、それほど多くのAIは必要ない」(シューマン氏)
Pegasystemsが提案するAIコスト抑制の答えは、AIをより戦略的に活用することだ。同社はFortune 500企業向けに、ビジネスプロセスの自動化や顧客関係管理を支援するローコードプラットフォームを提供している。
同社は、AIトークンの使用量ではなく、ビジネス上の成果(アウトカム)に応じて料金を設定する新たな課金モデルを発表した。シューマン氏は、企業が必要とする大量かつミッションクリティカルな業務プロセスの少なくとも60~70%は、ルールベースのアプローチで自動化できると主張する。
ワークフローの設計
Pegasystemsのソフトウェア「Pega Blueprint」は、AIを活用して企業向けの自動化ワークフローの設計を支援する。
AIは設計段階で大部分の作業を担うため、プロセスが実行されるたびにAIエージェントがワークフロー全体をゼロから考え直す必要はない。
一方で、ワークフローの中からAIエージェントを呼び出し、文書の要約や人間への入力依頼といった特定のタスクを実行させることは可能だ。これにより、企業はAIの推論機能をコントロールした形で利用できる。
同社は、自動化ワークフローをオープンソースの「Model Context Protocol」(MCP)に対応させた。これにより、企業は「Anthropic Claude」「Google Gemini」「OpenAI」「Amazon Bedrock AgentCore」など他社プラットフォーム上で構築したAIエージェントから、Pegaが提供する業務プロセスやワークフローを利用できるようになる。
シューマン氏によれば、MCPへの対応は「比較的容易な取り組み」だったという。同社は、組織がどのようなソフトウェア経由でワークフローにアクセスするかについて中立的な立場を取る。例えば、フロントエンドとしてPegaを使わなくても、「Salesforce」など他社製ソフトウェアからPegaのワークフローを利用できる。
しかし、企業にとってこの変化は大きな意味を持つと同氏は言う。既存のAIエージェントをそのまま活用しながら、Pegaが定義したワークフローに沿って業務を実行させられるようになるためだ。
「Pega MCPに接続すれば、AIエージェントは過剰な推論をすることなくルールに従う。適切なワークフローや必要なスキルを見つけるために、比較的単純な呼び出しを行うだけで済む」とシューマン氏は述べる。
AIは「並外れたもの」を生み出せない
自動化が進んでも、AIが人間の創造性に取って代わることはないとシューマン氏は断言する。同氏によると、人間とは異なり、AIは並外れたものを生み出したり、真の創造性を示したりはしない。「AIは、これまで学習してきた膨大な情報の平均を出しているに過ぎない」
同氏はそう指摘した上で、「私たちがやりたいのは、アイデアが生まれてから、それが従業員の働き方や顧客との関わり方に意味のある変化をもたらすまでの時間を、できる限り短縮することだ」と語る。
その結果、人間は戦略やアイデア、創造性により多くの時間を割けるようになる。シューマン氏によれば、世の中は「ChatGPT」や「Claude」の次期バージョンに注目し過ぎている。しかし、昨年のバージョンでも十分な性能を備えていたはずだという。
「難しいのは、AIの持つ可能性を人々にとって現実の価値へと変えることだ。それこそが、最も興味深い仕事だと私は考えている」
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Excel至上主義」の終わらせ方 丸2日の手作業地獄から情シスと現場を救うには
-
2
「Microsoft 365のセキュリティ運用」に関するアンケート
-
3
取手市がVDIと決別した理由 更改費用「4倍超」を約1.7倍に圧縮
-
4
急増する「AIはこう言ってる」マン 判断を狂わせる「AI忖度」を防ぐには?
-
5
221人調査で分かった「情シス最大のストレス」は?
-
6
「Salesforceのテスト自動化ツール」に関するアンケート
-
7
「データストレージの活用方法」に関するアンケート
-
8
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
9
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
10
自宅のWi-Fiが「遅い」「途切れる」本当の原因は? Dellが推奨する鉄則
ホワイトペーパーランキング PR
-
1
年収2000万「クラウドセキュリティのプロ」になれる資格とは
-
2
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは?
-
3
Windows Updateの通信集中で回線が逼迫、ネットワーク刷新事例に学ぶ解決策
-
4
財務を戦略的組織へ進化させるAI活用術、4つの主要な障壁と解消方法
-
5
「NAS」「SAN」「DAS」は何が違う? いまさら聞けないストレージの基礎
-
6
“あのファイル転送”で暗躍するノーウェアランサム
-
7
標的型攻撃メールを見破るには? サンプル文面を例に傾向を解説
-
8
商用利用の安全性を確保し大量のコンテンツを高速で生成する、AI活用の秘訣
-
9
マンガで解説、1日で生成AI環境を構築できるワークショップの中身とは?
-
10
Dark AIが台頭する時代の新発想、「より高度なAIで対抗する」具体的方法とは?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー