AIの”課金地獄”を回避したアゴダの最適解 「エンジニアを遊ばせない」とは？：コスト統制と創造性を両立

トークンの上限を決めれば費用の目途が立つ。だが、上限に達しない範囲でしかエンジニアが働かなくなる――。この課題に取り組み、コスト最適化とエンジニアの創造性を両立させたAgodaの取り組みを紹介する。

[Aaron Tan，TechTarget]

　Agoda International（以下、Agoda）CTOのアイダン・ザルツベルグ氏は、「もはや社内の誰もコードを書いていない」と述べる。さらに同社は、AI基盤を運用する上でのコスト最適化とエンジニアの創造性発揮を両立できているという。何をどうやっているのか。同社の取り組みを紹介する。

どうやってコストと創造性を両立させたのか

併せて読みたいお薦め記事

パフォーマンス監視の関連記事

• ローカルLLMかクラウドLLMか　企業にとって最適な選択は？
• AIエージェント貧乏にはならない　コストを抑える7つのルール

　「PythonやJavaを人が書く時代は終わった」。ザルツベルグ氏はこう話す。さらに、従来の手作業によるプログラミングは事実上終わりつつあると指摘した。急増するコード生成に対応するため、同社はAIによるコードレビューも導入し、現在はコード変更の50％以上を自動処理、開発者満足度は92％に達しているという。

　さらに、AIエージェントに社内データや運用ルールを組み込む独自基盤を構築し、人間のエンジニアのように動作させている。一方で、ガバナンスやセキュリティの観点から、OpenClawのようなオープンソースのAIエージェントの利用は禁止している。

　特に注目すべきは、トークンコスト管理の革新性だ。同社はトークンコストを管理するために、開発者へ一律の月間上限を設定する方法は採用していない。この方式では、予算を使い切った開発者が作業を停止する恐れがあるためだ。そこで、用途別、モデル別の動的配分で制御している。高性能モデルは重要プロジェクトに限定し、実験や個人プロジェクトでは低コストモデルを無制限に利用できるようにする。

　オープンソースの大規模言語モデル（LLM）の人気が高まる中でも、Agodaは用途に応じて小規模な独自モデルを選択できるようにしている。これにより、オープンソースと同等のコスト効率を実現できる場合もある。ただし同社は特定の方針に固執しない。適切な場合にはオープンソースモデルも活用する。「自社GPUで動作させることで、コストを90％削減できた事例もある」とザルツベルグ氏は述べる。

　この設計により、コストの抑制と開発者の創造性発揮を両立させることができている。ザルツベルグ氏は「上限を固定すれば、上限に達した際にエンジニアは遊びに行ってしまう」と指摘する。これにより、創造性を発揮せず、小さな挑戦を繰り返すだけになる。通常の予算管理で生じる「予算意識による挑戦の萎縮」を排除し、開発者が「何を創れるか」に集中できる環境を構築した。

　開発環境もポイントだ。ローカルPCから同社のプライベートクラウドへ移行する計画だ。これにより、AIエージェントが安全に動作できる「ソフトプレイグラウンド」を構築する。高性能ノートPCの購入が不要になるため、インフラコストの増加は相殺される見込みだ。

　Agodaはシステムのほぼ全てを自社インフラで運用している。膨大なCPUコアを稼働させ、日々14ペタバイトのデータを処理する。これは最大で毎秒5000万件、総計4兆件のメッセージ処理に相当する。

　AI活用は社内にも広がり、従業員の85％以上が週次でAIツールを利用している。マーケティングではAIにより大量の多言語コンテンツを生成するなど、従来不可能だった規模の施策を実現した。

　今後、エンジニアはコードの記述から、AIへの指示設計や検証環境の構築、アーキテクチャ設計へと役割を移す。Agodaは「コストを足かせにしないAI活用文化」を確立し、AIと人間の協働によって、旅行体験と開発の両面で革新を進める方針だ。