想定外のAI関連支出が発生することは、初期のクラウドサービスを経験した人にはなじみのあるパターンをたどる。当時のクラウドサービスも、請求書が届いて初めて本当の支出額が明らかになっていた。

　大半のAIツールは、クラウドサービスの費用と同じように変動する。固定契約ではなくトークン消費量に応じて増減する傾向があるため、企業が事前にAIツールの料金を正確に把握することは難しい。

　ある大学では、この変化がほぼ一晩で起きた。

　セントルイス健康科学薬科大学（University of Health Sciences and Pharmacy in St. Louis）のCIO（最高情報責任者）を務めるザック・ルイス氏によると、2024年、同大学の各部門が独自の予算で個別にAIツールを契約した結果、AI関連支出はほぼ0からあっという間に継続的な経費項目に変わった。「IT部門や財務部門などが承認やデータ保護の一貫したプロセスを整備する前に、職員が個別に購入していた」と同氏は振り返る。

　これと同じパターンは、高等教育機関だけではなく、さまざまな業界の企業でも見受けられる。

　「大企業のIT部門は概してトークン消費量と経費の予算化に苦労している。2023年後半から2024年前半の予算策定時に明確な料金体系や予測手法がなかったためだ」。IT製品の保守サービスを手掛けるRimini StreetのCIOであるジョー・ロカンドロ氏はそう指摘する。導入初期における支出の大部分は、従業員がさまざまな業務向けのプロンプトを試し、学習するための費用だったというのが同氏の見立てだ。

　利用が拡大した費用が増加する要因は、おおむね以下の点に集中している。

• LLM（大規模言語モデル）のAPI利用
• GPU（グラフィックス処理装置）などのコンピューティングリソースの消費
• AI機能を搭載したSaaS（Software as a Service）のサブスクリプション
• AIエージェントの実行
• 企業が承認していないAIツールを従業員が利用する「シャドーAI」への支出

AI費用の隠れ場所

　予期せず増加したAI関連の費用は、複数の場所に隠れていることがあり、経理部門が請求書を受け取るまで気付かれないことがある。以下はその例だ。

1．従業員による利用

　個人の購入は最も見落としやすい。「従業員が契約するツールのサブスクリプションは、追跡と予測が極めて困難だ」とルイス氏は話す。部門単位の予算や、現場に支給されている法人用クレジットカードを使った独自の決済で購入すると、実態の把握はさらに難しくなるという。

　開発者も、APIの呼び出しやAIモデルのテスト、ファインチューニング（微調整）の作業で経費を発生させることがある。

2．AIエージェント

　AIエージェントの費用は特に厄介だ。単純なライセンス契約ではなく、複数のステップからなる複雑な処理によって支出が発生するからだ。

　「予算超過の主な原因は、AIエージェントが複数のシステムをまたいで何度も検索を実行するなどの複雑なタスクを処理することにある」とロカンドロ氏は説明する。こうしたタスクは計算能力を大量に消費し、想定外の支出を生み出しやすい。処理をやり直す必要があれば支出はさらに膨らむ恐れがある。

　コンサルティング企業Deloitte Consultingのプリンシパルであり、AIインフラ部門の責任者を務めるニコラス・メリッツィ氏は、企業がAI関連支出の管理を、利用量と定額ライセンスに基づいて構築していることを指摘する。「見落としがちな経費増加の本当の要因は、利用者数ではなく、裏側で実行されている複雑なAI処理のループにある。大容量のコンテキストウィンドウや再試行ロジックなどは請求項目としては現れないが、積み重なることで1つのタスクの実行費用を気付かないうちに引き上げる」

3．データ関連費用

　データの特徴を数値の並びとして表現した「ベクトルデータ」を扱うデータベース、ストレージ、データの検索など、データに関する部分も想定外の支出を生む要因だ。データの保管や検索にかかる費用はデータ量に比例して増減する傾向があるが、実際に運用してみるまでは、その正確な料金構造や費用対効果を事前に見極めることは難しい。

FinOpsの新たな課題

　IT運用に財務の規律を適用する「FinOps」は、当初はクラウドサービス料金を管理するために導入された。企業は試行錯誤を重ねながら、さまざまな形でAIツールの予算管理にもFinOpsを応用し始めている。

　従来のIT予算管理は、支出が固定で予測可能であることを前提としている。これに対してAI関連費用は、消費量に応じた支出や激しく変動する利用量、従業員が個別に利用しているツール、人間の関与なしに支出を生み出すAIエージェントを考慮しなければならない。

　ソフトウェアベンダーCertiniaの最高財務情報責任者を務めるエリン・ソーヤー氏は、従来のIT予算管理がAI関連予算に対して機能しないのは、サーバなどの固定された設備に対して、1カ月遅れで届く事後の請求書を基に管理するスタイルだからだと指摘する。同氏は、「自社の利益を守りつつビジネスのスピード感を維持するには、システムの利用状況をリアルタイムで監視し、必要に応じて即座にAIモデルの利用制限をかけられる仕組みへと、管理の軸足を移すべきだ」と語る。

　保険・金融サービスブローカーのWorld Insurance AssociatesでCIOを務めるマイケル・コリガン氏は、自社が既に持っている能力を拡張することで、AIツールへのROI（投資対効果）に関する課題に取り組んでいる。同氏によると、同社は大手クラウドベンダーに関する強固なFinOpsのルールを確立しており、消費量の追跡や需要の予測、事業部門への経費割り当て、利用パターンの最適化を実践してきた。

　コリガン氏は「こうしたルールのほとんどを、AIモデルのトークン消費にも適用できた」と語る。その結果、World Insurance Associatesは、セキュリティ審査や期待されるROIの測定など、他のIT投資と同じルールを使ってAIプロジェクトを評価しているという。

　全ての支出がサブスクリプションの契約や請求書に現れるわけではない。マーケティング技術ベンダーBranchの最高AI変革責任者を務めるクリスティーン・パーク氏は、次のように指摘する。「企業は技術の導入は計画するが、変革の計画は立てていない。システムを利用できることは技術の定着を意味しない。従業員が技術を使いこなし、業務の進め方を変えるまでの時間も投資の一部だ」

　次回は、想定外のAI関連費用を生まないための5つのベストプラクティスを紹介する。