セッション単価52%減の舞台裏
Uberが挑んだ「無駄トークン撲滅」の全容 AI利用7倍でもコスト半減
Uberは開発AIの利用が7倍に急増する中、セッション費用を52%削減することに成功した。PRの7割を担うエージェントを制御し、費用を抑え込む最適化の極意を明かす。
「開発者に生成AIツールを配った途端、API利用料の請求書が跳ね上がった」「効率化の成果は見えても、このままでは予算がもたない」。開発環境へのAIエージェント導入を進める情シスや開発リーダーにとって、利用急増に伴う費用の急膨張は頭の痛い問題である。
米Uberは、社内のAIエージェント利用者が7倍に増える中、セッションあたりのコストを52%削減し支出総額をほぼ横ばいに抑え込むことに成功した。Pull Requestの7割以上を自律型エージェントが担う同社が実践した、無駄なトークン消費を徹底的に排除する最適化の手法を紹介する。
AI利用が7倍に急増するも総支出は安定
Uberではソフトウェア開発の全フェーズにAIツールが組み込まれている。同社によると、作成されるPull Request(PR)の70%以上にローカルまたはクラウドのエージェントが関与しており、社内エンジニアが構築した3600以上のエージェントスキルが1日に3万回以上実行されているという。
2026年2月から8月中旬にかけて、同社のエージェント機能の週間アクティブユーザー数は7倍に増加し、週間リクエスト数は9.4倍に拡大した。しかし、全社的な最適化施策を進めた結果、AI支出総額は2026年4月以降ほぼ安定して推移している。モデルの挙動変化による影響を排除するため特定モデルで固定検証したところ、1000リクエストあたりのコストはピーク時から約34%減少し、1セッションあたりのコストは6月のピーク時から52%減少した。
パレート最適によるモデル選定とサブエージェントの制御
同社はAIエージェントのコスト構造を分解し、モデル単価とトークン消費量の両面から削減を進めた。
モデル選定では、業務ログからベンチマークを作成し、コストと出力品質、信頼性のバランスが取れた「パレート最適」なモデルを採用している。例えばAIコードレビューを担う「uReview」では、既知のバグを含むPRを用いたベンチマークでモデルを切り替え、F1スコア(精度と再現率の調和平均)を向上させながらPRあたりのコストを削減した。
対話型インタフェースでは、初期設定の制御が効果を上げた。特に効果が高かったのがサブエージェントのデフォルトモデル設定だったという。親エージェントがタスクの分解と評価を担当する一方、指示を受けて実行するサブエージェントには最上位モデルではなく、安価で必要十分なモデルを割り当てて全体の費用を抑制している。
MCPツールのCLI化とPythonバッチ処理でコンテキスト肥大化を防止
エージェントとのやりとりでは、過去の履歴やツール仕様がリクエストごとに再送信されるため、入力トークンの削減が累積的なコスト削減につながる。Uberはコンテキストの上限を40万トークンに設定し、推論の深度(Reasoning effort)を原則「中(Medium)」に固定することで基本消費を抑えた。
さらに、1000以上のツールが接続されたMCP(Model Context Protocol)の通信方式を刷新した。標準的なMCPでは導入されている全ツールのスキーマ(定義情報)をセッション開始時に読み込むため、プロンプト入力前に5万~7万トークンものオーバーヘッドが発生していた。
この課題に、ツールをシェルコマンド経由で動的に呼び出す「CLIツール解決」と、必要なツールのみを検索して読み込む「ツール検索」を導入し、不要なスキーマの送信を排除した。加えて、複数回の問い合わせをPythonスクリプト内で完結させる「コードモード」を導入。中間レスポンスをモデルのコンテキストに送出させない仕組みを構築し、SQLクエリ実行時のトークン消費量を50%以上削減した。
2400万ノードの知識グラフとセッション分析で無駄を可視化
エージェントが情報を探して無駄な試行(ターン)を繰り返す問題に対しては、社内の設計書やインシデントログ、PR履歴など30以上のシステム情報を統合した「AI Context Graph(2400万ノード、8000万エッジ)」を構築した。自然言語でグラフを検索できるようにしたことで、あるデータセット調査では従来20分かかっていた探索とエラーの連鎖を38秒に短縮した。
現場の開発者向けには、ターミナルのステータスラインにリアルタイムの費用カウンターを表示するようにした他、実行ログから16種類の無駄パターン(過剰スペックなモデル選択、長時間の放置によるキャッシュ切れなど)を自動検出する「セッション分析ダッシュボード」を提供している。
Uberは今後、モデルの動的ルーティングの拡大や知識グラフの連携強化を進め、個々の開発者の努力に頼るのではなく、仕組みとして効率的な開発基盤を整えていく方針だとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget ニュースプラス
国内のIT業界ニュースを迅速に報道します。企業動向から導入事例、市場トレンドまで幅広く取り上げ、実務に直結する情報をタイムリーに提供する連載です。
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社うるる] 「入札市場」攻略ガイド:効率的に落札するためのポイントを徹底解説 -
製品資料
[株式会社うるる] 入札情報に特化した「販路拡大」「効率化」のためのサポートツールとは? -
市場調査・トレンド
[株式会社うるる] 公共入札に成功する企業と失敗する企業の「5つの違い」 -
製品資料
[日本ビジネスシステムズ株式会社] 専門家が教える、Microsoft 365の「テナント統合/分離」を成功に導く秘訣 -
製品資料
[rakumo株式会社] Microsoft 365での情報埋没を防ぐ、社内ナレッジを資産化する情報ポータル活用
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
2
PHP脆弱性「PHP2Shell」で2260万件に影響 情シスの緊急チェックリスト
-
3
なぜ「Gemini 4 Argon」は出遅れたのか? Googleが狙う“逆転のシナリオ”
-
4
「Microsoft 365」が乗っ取られる MFAを破る“本物の画面”の恐怖
-
5
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
6
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
7
「アップグレードできないJava」をどう守る IBMとRed HatがAIで400件超修正
-
8
Microsoft 365移行で露呈した標準機能の限界 地方銀行は上長承認や「脱PPAP」をどう実現?
-
9
Microsoft 365導入後も稟議は「Excelをメールで回覧」 承認が止まる理由
-
10
ChatGPTは“検索しまくり”でGeminiは“淡泊”? データが明かすAIの裏側
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
2
最速72分でデータが流出? 最新の脅威トレンドや侵入手法から分かった防衛策
-
3
2026年のサイバーセキュリティには何が必要か? 最新データに学ぶ傾向と対策
-
4
経験豊富な即戦力人材に直接アプローチできる、「攻めの採用」への転換術
-
5
「IT史に名を残すシステム障害」8選
-
6
SASE選定は「見極め力」で大きな差――本当に必要な製品を選ぶための6つの視点
-
7
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
AI駆動開発のスピードと安全性を両立 「品質・セキュリティ管理」の実践ガイド
-
10
「標的型攻撃メール」事例・サンプル集
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー