セッション単価52%減の舞台裏
Uberが挑んだ「無駄トークン撲滅」の全容 AI利用7倍でもコスト半減
Uberは開発AIの利用が7倍に急増する中、セッション費用を52%削減することに成功した。PRの7割を担うエージェントを制御し、費用を抑え込む最適化の極意を明かす。
「開発者に生成AIツールを配った途端、API利用料の請求書が跳ね上がった」「効率化の成果は見えても、このままでは予算がもたない」。開発環境へのAIエージェント導入を進める情シスや開発リーダーにとって、利用急増に伴う費用の急膨張は頭の痛い問題である。
米Uberは、社内のAIエージェント利用者が7倍に増える中、セッションあたりのコストを52％削減し支出総額をほぼ横ばいに抑え込むことに成功した。Pull Requestの7割以上を自律型エージェントが担う同社が実践した、無駄なトークン消費を徹底的に排除する最適化の手法を紹介する。
AI利用が7倍に急増するも総支出は安定
Uberではソフトウェア開発の全フェーズにAIツールが組み込まれている。同社によると、作成されるPull Request（PR）の70％以上にローカルまたはクラウドのエージェントが関与しており、社内エンジニアが構築した3600以上のエージェントスキルが1日に3万回以上実行されているという。
2026年2月から8月中旬にかけて、同社のエージェント機能の週間アクティブユーザー数は7倍に増加し、週間リクエスト数は9.4倍に拡大した。しかし、全社的な最適化施策を進めた結果、AI支出総額は2026年4月以降ほぼ安定して推移している。モデルの挙動変化による影響を排除するため特定モデルで固定検証したところ、1000リクエストあたりのコストはピーク時から約34％減少し、1セッションあたりのコストは6月のピーク時から52％減少した。
パレート最適によるモデル選定とサブエージェントの制御
同社はAIエージェントのコスト構造を分解し、モデル単価とトークン消費量の両面から削減を進めた。
モデル選定では、業務ログからベンチマークを作成し、コストと出力品質、信頼性のバランスが取れた「パレート最適」なモデルを採用している。例えばAIコードレビューを担う「uReview」では、既知のバグを含むPRを用いたベンチマークでモデルを切り替え、F1スコア（精度と再現率の調和平均）を向上させながらPRあたりのコストを削減した。
対話型インタフェースでは、初期設定の制御が効果を上げた。特に効果が高かったのがサブエージェントのデフォルトモデル設定だったという。親エージェントがタスクの分解と評価を担当する一方、指示を受けて実行するサブエージェントには最上位モデルではなく、安価で必要十分なモデルを割り当てて全体の費用を抑制している。
MCPツールのCLI化とPythonバッチ処理でコンテキスト肥大化を防止
エージェントとのやりとりでは、過去の履歴やツール仕様がリクエストごとに再送信されるため、入力トークンの削減が累積的なコスト削減につながる。Uberはコンテキストの上限を40万トークンに設定し、推論の深度（Reasoning effort）を原則「中（Medium）」に固定することで基本消費を抑えた。
さらに、1000以上のツールが接続されたMCP（Model Context Protocol）の通信方式を刷新した。標準的なMCPでは導入されている全ツールのスキーマ（定義情報）をセッション開始時に読み込むため、プロンプト入力前に5万～7万トークンものオーバーヘッドが発生していた。
この課題に、ツールをシェルコマンド経由で動的に呼び出す「CLIツール解決」と、必要なツールのみを検索して読み込む「ツール検索」を導入し、不要なスキーマの送信を排除した。加えて、複数回の問い合わせをPythonスクリプト内で完結させる「コードモード」を導入。中間レスポンスをモデルのコンテキストに送出させない仕組みを構築し、SQLクエリ実行時のトークン消費量を50％以上削減した。
2400万ノードの知識グラフとセッション分析で無駄を可視化
エージェントが情報を探して無駄な試行（ターン）を繰り返す問題に対しては、社内の設計書やインシデントログ、PR履歴など30以上のシステム情報を統合した「AI Context Graph（2400万ノード、8000万エッジ）」を構築した。自然言語でグラフを検索できるようにしたことで、あるデータセット調査では従来20分かかっていた探索とエラーの連鎖を38秒に短縮した。
現場の開発者向けには、ターミナルのステータスラインにリアルタイムの費用カウンターを表示するようにした他、実行ログから16種類の無駄パターン（過剰スペックなモデル選択、長時間の放置によるキャッシュ切れなど）を自動検出する「セッション分析ダッシュボード」を提供している。
Uberは今後、モデルの動的ルーティングの拡大や知識グラフの連携強化を進め、個々の開発者の努力に頼るのではなく、仕組みとして効率的な開発基盤を整えていく方針だとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget ニュースプラス
国内のIT業界ニュースを迅速に報道します。企業動向から導入事例、市場トレンドまで幅広く取り上げ、実務に直結する情報をタイムリーに提供する連載です。
関連記事
新着ホワイトペーパー PR
-
市場調査・トレンド
想像以上に多い？ 調査で見えた「ワークフロー」が従業員満足度に与える影響 -
製品資料
なぜワークフローシステムのポテンシャルは眠ったままなのか？ -
製品資料
大手銀行もPPAP廃止へ いま金融企業が知っておきたいPPAPの問題点と代替手段 -
市場調査・トレンド
なぜ海外事業は失敗するのか？ 元味の素常務が語る、ASEAN事業成功の原理原則 -
製品資料
AIを使った情報収集では不十分？ 新規事業開発を計画通りに進めるためのコツ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
AI全部入り「Microsoft 365 E7」に企業が二の足を踏む訳 移行意向はわずか4％
-
2
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
3
なぜ人はいるのにDXが進まない？ ライオンも直面した“老害”レガシーシステム
-
4
イーロン・マスク氏が生成AI「Grok」をオープン化する“語られない狙い”
-
5
IT人材の42％が転職予備軍 辞めさせない組織の4つの共通
-
6
マンガで解説：採択率は3割台？ デジタル化・AI導入補助金申請の落とし穴
-
7
「AI時代の統合基盤・エンタープライズAI管理」に関するアンケート
-
8
ただなのに「12時間以内の復旧」も要求 無償OSSに商用レベルを求める企業の末路
-
9
自宅のWi-Fiが「遅い」「途切れる」本当の原因は？ Dellが推奨する鉄則
-
10
“アジャイルの壁”に挑むオリックス生命がIBMの開発管理ツールを選んだ理由
ホワイトペーパーランキング PR
-
1
属人化や仕様バグはなぜ起きる？ AI時代に必須のドキュメント文化の作り方
-
2
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
3
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
4
5分で分かる「AI駆動開発エージェント」 要件定義から設計・実装・テストまで
-
5
コスト分析で見る「デバイス復旧」の代償 損失額から導きだされた投資戦略とは
-
6
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
-
7
“あのファイル転送”で暗躍するノーウェアランサム
-
8
オープンウェイトLLMの推論最適化事例：ローカル環境で応答速度を約15分の1へ
-
9
「結局、一部の人しか使わない」 AI活用が業務に定着しない根本的な理由
-
10
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは？
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー