代理搜索预算

一个 LangChain 代理每天处理 50 个研究任务，每个任务的预算为 20 个信用点，每天的消耗保持在 1,000 个信用点以内（按 Scavio 费率计算为 5 美元），而没有上限的代理在第一次测试运行中使用了 4,200 个信用点。

代理搜索预算与google, amazon, tiktok相关。Scavio提供统一API来访问所有这些平台的数据。

每天有 1,000 次查询，搜索 API 成本因提供商而异。 Scavio 每信用额收费 0.005 美元，每日 1000 次查询的收费为 5 美元/天（150 美元/月）。 SerpAPI 在其 25/1000 美元计划中每个查询的费用为 0.025 美元，或者在相同数量下为 750 美元/月。 Serper 以 50 美元/月的价格进行 50 万次查询，将每个查询的成本降至 0.0001 美元，但需要预先承诺。如果没有预算上限，循环代理可以在几小时内耗尽每月津贴。 在代码中实施预算非常简单。在每次工具调用之前跟踪累积积分，并在达到阈值时引发 BudgetExceededError。大多数代理框架都支持 pre-tool hooks：LangChain 的 before_tool 回调、LlamaIndex 的工具包装器或 CrewAI 工具类中的简单计数器。 一个实际的起点是将会话预算设置为每日信用池的 10-20%，然后根据观察到的座席行为进行调整。推测性搜索（对冲检索）的代理消耗的积分比具有明确的“先搜索后回答”规则的代理多 3-5 倍。预算执行立即暴露了这种浪费。