全てをAIに通すと高額に?

JSONをやめてPythonで送る トークン消費を約7割抑えるAIの設計

データのアップロードや様々な処理をAIエージェントに丸投げすると利用料が積み重なり予算を大きく超える場合がある。そのような事態を避けるための選択肢を、Prefectのローウィン氏が紹介した。

 社内でAIエージェントを構築する際、「AIにどのツールを使わせるか」だけでなく、「どのデータをAIエージェント経由で処理させるか」も設計上の論点になる。処理によっては、AIエージェントのコンテキストを経由させることで、トークン消費や処理時間が増えるためだ。

 ワークフローオーケストレーション製品を手掛けるPrefectのジェレマイア・ローウィン氏は、様々なサービスを使ったAIエージェントとユーザー、バックエンドの接続やコストの抑制について解説した。

AIエージェントに直接ファイルを渡してはいけない?

印刷する
SNSでシェア

関連記事

新着ホワイトペーパー PR

こんなメディアも見られています

TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

無料会員登録
最新情報をいち早くチェック!

IT導入や運用管理に関する技術資料やレポートが閲覧でき、興味や必要性に合致した情報を、的確かつ迅速に入手できます

いますぐ無料会員登録

ベンダーコンテンツ PR

From Informa TechTarget

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

ホワイトペーパーランキング PR

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

TechTargetジャパン SNS

X @techtarget_itmをフォロー

インフォメーション

TechTargetジャパンをフォロー

TechTargetジャパンについて