品質とAIコストを両立する新機構

膨らむAIコストに歯止め GitHubのマルチモデルルーターは何が違うのか

高騰するAIトークン費用に悩む企業へ。GitHubが検証中の新機構「HydraFusion」は、タスク別に複数モデルを自動連携させ品質とコストを両立する。開発現場の常識を変える3つの独自手法を解剖する。

 GitHubの新しいマルチモデルルーター「HydraFusion」は、入力に基づいてワークフローを最適化し、出力の品質とAIコストのバランスを取るツールだ。

 このツールは、開発者がAIアシスタント「GitHub Copilot」に入力したタスクを分析する。その上で実行計画を作成し、1つまたは複数のモデルを選択する。

 Moor Insights & Strategyでバイスプレジデント兼プリンシパルアナリストを務めるジェイソン・アンダーセン氏は米TechTargetの取材に、企業のAIコストが上昇する中で、自律型エージェントのワークフローを制御する手段としてHydraFusionやマルチモデルルーティング全般が支持を集めていると話す。

 「現在、トークンコストは開発者にとって重大な関心事で、モデルルーターは大幅なコスト削減に役立つ。入力内容や求められる出力によっては、コストの変動幅が非常に大きくなる場合がある」(アンダーセン氏)

 HydraFusionは、同年初頭に導入されたCopilotの自動モデル選択機能を基盤としている。GitHubの公式ブログでは、HydraFusionを自律型エージェント開発に向けた「最初の試み」と表現している。「最適なモデルの選択から、各タスクを解決する最善の方法を動的に構築するアプローチへの転換」だという。従来の自動選択機能はワークフローごとに1つのモデルを選んでいたが、HydraFusionはワークフローの種類に応じて1つまたは複数のモデルを選択する。

 GitHubのコミュニティーページによると、利用料金はHydraFusionが使用するモデルの消費トークン数に基づき、各モデルの標準料金で計算される。

 本記事では、開発現場の常識を変えるHydraFusionが採った3つの独自手法を解剖する。

HydraFusionは何が異なるのか

印刷する
SNSでシェア

TechTarget発 先取りITトレンド

米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。

この連載の記事をもっと見る

この記事の著者

関連記事

新着ホワイトペーパー PR

こんなメディアも見られています

TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

無料会員登録
最新情報をいち早くチェック!

IT導入や運用管理に関する技術資料やレポートが閲覧でき、興味や必要性に合致した情報を、的確かつ迅速に入手できます

いますぐ無料会員登録

ベンダーコンテンツ PR

From Informa TechTarget

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

ホワイトペーパーランキング PR

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

TechTargetジャパン SNS

X @techtarget_itmをフォロー

インフォメーション

TechTargetジャパンをフォロー

TechTargetジャパンについて