iPaaSベンダーのCeligoでCIO（最高情報責任者）を務めるエイミー・ファロー（Amy Farrow）氏は、隠れたコストとして3つの要素を挙げた。

　「隠れたコストと聞いて最初に思い浮かぶのは試行錯誤のコストだ。従業員はまずAIを実験的に使って試すことから始める。初めから完璧に定義されたプロジェクトとしてスタートするわけではないので、試行錯誤や探索の時間が隠れたコストになる」

　「2つ目は、AIから長期的に最大の価値を引き出そうと、多くの人がツールの導入に飛び付いてしまう点だ。しかし、本当に価値を得るためには、業務フローやオペレーティングモデルなどを再構築する必要がある。価値を引き出すには目指すべき明確なビジョンや全体像が求められるが、その策定は難しく、価値を得るための隠れたコストになる。何度も試行錯誤を繰り返す必要があり、時間もかかる」

　「3つ目は労働力の備えで、これはより個人的なレベルの話になる。AIの導入によって自分の役割の中で何が変わるのか。変化に対応するためのスキルだけでなく『なぜこれらが変わるのか』という背景や目的を理解して、その変化に進んで関わろうとするマインドセットが身に付いているか、ということだ。AI導入の隠れたコストとは少し異なるかもしれないが、こうした従業員の意識改革あって初めて、AI投資が価値を生む段階に到達するのだと思う」

　産業用DataOpsを開発するHighByteのCTO（最高技術責任者）アーロン・セムル（Aron Semle）氏はデータのコンテキストの欠如を指摘した。

　「私たちは産業・製造業に従事しており、常にコンテキストの問題に直面している。当社のデータや表現方法、広報活動も関係しているが、データはかなり散らかっている。当社にはこれまでデータ戦略がなかった。そんな中で、産業・製造業の経営幹部たちは『うちのAI対策はどうなっているんだ？』と問い詰めてくる。それが、工場の現場やデータの混乱状態を知っている技術担当者にまで降りてくると、彼らは『AIを活用する前に、まずこのデータを整理しなければなりません』と言うことになる。

　このような、工場のデータアーキテクチャの混乱を理解している優秀な人材がいない場合、データを整理しないままAIを使おうとする。産業データにはコンテキストがほとんど含まれていないため、得られる成果はごくわずかだ。その結果、大量のトークンを消費した挙げ句、再現性に乏しい結果しか得られない。人間にも理解できないような、工場の現場で20年間にわたって蓄積されたデータや意思決定をAIが読み解こうとする中で、大量のハルシネーションが発生する。AIはとにかく何らかの答えを出そうとするため、ここで人間が介在する仕組みが必要になる。これが恐らく最大の盲点だろう。AI企業は、特定のタスクにどれだけの費用やトークン数がかかっているかを親切に示してはくれない。

　経営幹部は『データはある。そこにAIを投入すればうまくいく』と考えがちだ。しかし実際は違う。再現性を高め、支出を抑えるには、ある程度のコンテキストとデータの整理・構造化が必要になる」

　ITインフラ保守サービスを手掛けるPark Place TechnologiesのCTO、クリス・カレイロ（Chris Carreiro）氏はトークン消費の管理に言及した。

　「私はトークンだと思う。社内のAI利用拡大やスプロール（無秩序な拡散）も同様で、通常はサブスクリプションを契約して使い始めるが、他のグループに広がるにつれ、他のグループはトークン消費量に注意を払わなくなってしまう。社内展開のためのルール作りや設計がないまま、全員が便乗して使い始めているような状態だ。

　AIエージェントの分野についても同様だ。人々は次々とAIエージェントを構築するが、正しい方法では運用していない。システム全体を俯瞰（ふかん）して構築していないため非常に非効率で、トークンを急激に消費してしまう。

　予算をグループごとに分割するのが良いだろう。チームごとに一定の予算枠を割り当てておけば、特定のチームが会社全体の予算を使い果たしてしまうことを抑制したり、制限をかけたりできるようになる」

　金融サービスのPrincipal Financial GroupでCDAO（最高データアナリティクス責任者）を務めるラジェシュ・アローラ（Rajesh Arora）氏は次のように述べた。

　「私たちが最近こぞって直面しているのはトークンの消費コストだ。1年前には、トークン消費コストを運用経費（OPEX）の予算項目として計上していたCFO（最高財務責任者）はいなかったはずだ。AIの利用量やモデル、価格体系が目まぐるしく変化する中で、この問題が表面化してきている。私たちは今、誰もがこの状況をどうやって把握するか、トークン消費コストが何を意味するのか、どこで線引きすべきかを模索している。これは私たちが知らなかった隠れたコストの一つであり、全員が同時に学んでいるところだ」

　業務管理プラットフォームを手掛けるSmartsheetでAI市場戦略担当バイスプレジデントを務めるジャネル・ミロドラゴビッチ（Janelle Milodragovich）氏は、文書化されていない業務知識の課題を指摘する。

　「やはりコンテキストに行き着くと思う。私たちは、従業員全員が社内の状況を把握しており、自社の製品や販売先、競合他社について答えられると思い込んでいる。しかし実際には、多くの従業員がそれぞれ異なる階層の情報や文脈を持っている。そうした情報は明文化されていないにもかかわらず、意思決定の上で非常に重要な役割を果たしている。

　日常業務にAIを組み込む際、大小問わずそうした情報が文書化されていないことは、企業にとって大きなコストになる。適切なコンテキストがないまま個々のエージェントを稼働させれば、全情報がそろった明確な経路をたどるのではなく、多様なデータソースから少しずつ情報をくみ取ることになり、その過程でトークンを無駄に消費し続けてしまうからだ」

　アイデンティティー管理ベンダーSaviyntで戦略担当兼副社長を務めるエンリケ・テイシェイラ（Henrique Teixeira）氏は、生成物のレビューにかかる工数を問題視する。

　「同僚たちがAIへの『愛』からさまざまなものを生成し、それをサイバーセキュリティやアイデンティティー管理のリーダーにレビューさせていることが隠れたコストだと思う。私は競合情報分析を担当しているため、社内から『私が作ったアプリを見てほしい。競合他社のことが全て分かる』と持ち掛けられる。しかし、2分で作られたアプリをレビューするために、私は3日分の余計な仕事をしなければならなくなる。

　コンテンツや成果物を生成するコストは安いが、それをレビューして整理・修正する作業には高いコストがかかる。