セッション単価52%減の舞台裏
Uberが挑んだ「無駄トークン撲滅」の全容 AI利用7倍でもコスト半減
Uberは開発AIの利用が7倍に急増する中、セッション費用を52%削減することに成功した。PRの7割を担うエージェントを制御し、費用を抑え込む最適化の極意を明かす。
「開発者に生成AIツールを配った途端、API利用料の請求書が跳ね上がった」「効率化の成果は見えても、このままでは予算がもたない」。開発環境へのAIエージェント導入を進める情シスや開発リーダーにとって、利用急増に伴う費用の急膨張は頭の痛い問題である。
米Uberは、社内のAIエージェント利用者が7倍に増える中、セッションあたりのコストを52％削減し支出総額をほぼ横ばいに抑え込むことに成功した。Pull Requestの7割以上を自律型エージェントが担う同社が実践した、無駄なトークン消費を徹底的に排除する最適化の手法を紹介する。
AI利用が7倍に急増するも総支出は安定
Uberではソフトウェア開発の全フェーズにAIツールが組み込まれている。同社によると、作成されるPull Request（PR）の70％以上にローカルまたはクラウドのエージェントが関与しており、社内エンジニアが構築した3600以上のエージェントスキルが1日に3万回以上実行されているという。
2026年2月から8月中旬にかけて、同社のエージェント機能の週間アクティブユーザー数は7倍に増加し、週間リクエスト数は9.4倍に拡大した。しかし、全社的な最適化施策を進めた結果、AI支出総額は2026年4月以降ほぼ安定して推移している。モデルの挙動変化による影響を排除するため特定モデルで固定検証したところ、1000リクエストあたりのコストはピーク時から約34％減少し、1セッションあたりのコストは6月のピーク時から52％減少した。
パレート最適によるモデル選定とサブエージェントの制御
同社はAIエージェントのコスト構造を分解し、モデル単価とトークン消費量の両面から削減を進めた。
モデル選定では、業務ログからベンチマークを作成し、コストと出力品質、信頼性のバランスが取れた「パレート最適」なモデルを採用している。例えばAIコードレビューを担う「uReview」では、既知のバグを含むPRを用いたベンチマークでモデルを切り替え、F1スコア（精度と再現率の調和平均）を向上させながらPRあたりのコストを削減した。
対話型インタフェースでは、初期設定の制御が効果を上げた。特に効果が高かったのがサブエージェントのデフォルトモデル設定だったという。親エージェントがタスクの分解と評価を担当する一方、指示を受けて実行するサブエージェントには最上位モデルではなく、安価で必要十分なモデルを割り当てて全体の費用を抑制している。
MCPツールのCLI化とPythonバッチ処理でコンテキスト肥大化を防止
エージェントとのやりとりでは、過去の履歴やツール仕様がリクエストごとに再送信されるため、入力トークンの削減が累積的なコスト削減につながる。Uberはコンテキストの上限を40万トークンに設定し、推論の深度（Reasoning effort）を原則「中（Medium）」に固定することで基本消費を抑えた。
さらに、1000以上のツールが接続されたMCP（Model Context Protocol）の通信方式を刷新した。標準的なMCPでは導入されている全ツールのスキーマ（定義情報）をセッション開始時に読み込むため、プロンプト入力前に5万～7万トークンものオーバーヘッドが発生していた。
この課題に、ツールをシェルコマンド経由で動的に呼び出す「CLIツール解決」と、必要なツールのみを検索して読み込む「ツール検索」を導入し、不要なスキーマの送信を排除した。加えて、複数回の問い合わせをPythonスクリプト内で完結させる「コードモード」を導入。中間レスポンスをモデルのコンテキストに送出させない仕組みを構築し、SQLクエリ実行時のトークン消費量を50％以上削減した。
2400万ノードの知識グラフとセッション分析で無駄を可視化
エージェントが情報を探して無駄な試行（ターン）を繰り返す問題に対しては、社内の設計書やインシデントログ、PR履歴など30以上のシステム情報を統合した「AI Context Graph（2400万ノード、8000万エッジ）」を構築した。自然言語でグラフを検索できるようにしたことで、あるデータセット調査では従来20分かかっていた探索とエラーの連鎖を38秒に短縮した。
現場の開発者向けには、ターミナルのステータスラインにリアルタイムの費用カウンターを表示するようにした他、実行ログから16種類の無駄パターン（過剰スペックなモデル選択、長時間の放置によるキャッシュ切れなど）を自動検出する「セッション分析ダッシュボード」を提供している。
Uberは今後、モデルの動的ルーティングの拡大や知識グラフの連携強化を進め、個々の開発者の努力に頼るのではなく、仕組みとして効率的な開発基盤を整えていく方針だとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget ニュースプラス
国内のIT業界ニュースを迅速に報道します。企業動向から導入事例、市場トレンドまで幅広く取り上げ、実務に直結する情報をタイムリーに提供する連載です。
関連記事
新着ホワイトペーパー PR
-
技術文書・技術解説
[アトラシアン株式会社] IT運用や従業員サポートは生成AIでどう変わる？ 使い方や導入の流れは？ -
製品資料
[株式会社みらい翻訳] 音声翻訳活用の課題を解決、“本当に使える”ツールの特徴とは？ -
製品レビュー
[Wrike Japan 株式会社] 400店舗を支えるWalmart Canada、散在する情報やアナログな管理をどう変えた？ -
事例
[Wrike Japan 株式会社] 年間100件超のDXプロジェクトを統合管理、JERAはどのように実現した？ -
事例
[Wrike Japan 株式会社] グローバルなクリエイティブ業務を合理化、エスティーローダーに学ぶ実践のコツ
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
2
全社標準Copilotに絶望？ MS Copilotで問い合わせ6割減できた企業は何が違った
-
3
「定期診断」発想は要注意？ いまセキュリティに求められる持続的な対策とは
-
4
“AIコーディング”でどのツールを選ぶ？ 「ChatGPT」「Claude」の真価
-
5
「AI活用を前提とした業務PCへの移行」に関するアンケート
-
6
「制御用組み込みPC」に関するアンケート
-
7
「複数AIの野放し」に歯止め Salesforceが6製品統合で挑むAI統制の覇権
-
8
脱VMwareの前提が崩れる BroadcomのVDDK公開停止で確認すべき点
-
9
LLMの「過学習」、正しく説明している文章はどれ？
-
10
「ネットワークインフラの現状と課題」に関するアンケート
ホワイトペーパーランキング PR
-
1
5回聞くだけじゃ足りない？ トヨタ式「なぜなぜ分析」の正しい実践方法
-
2
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
5
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
6
国税庁の次世代基幹システム「KSK2」稼働開始に向けて、対応すべき変更点とは？
-
7
5分で分かる「セキュア大容量ファイル転送サービス」の機能とメリット
-
8
「スクラム」と「カンバン」の違いとは？ アジャイル型開発手法を徹底比較
-
9
ドラマで分かる、標的型攻撃メールの被害を受ける企業と回避できる企業の分岐点
-
10
「脱Excel」か「Excel快適化」か？ 現場にやさしい業務改善の進め方
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー