API速率限制

搜索API的速率限制为每秒5个请求、每分钟100个请求。AI代理系统在高峰期运行20个并发代理，总需求达到每秒15个请求。团队实施了请求队列和令牌桶来将请求平滑化到限制以下。

API速率限制与Google, Amazon, YouTube, Walmart, Reddit相关。Scavio提供统一API来访问所有这些平台的数据。

API速率限制是几乎所有生产API的标准组件。对于AI代理系统这尤其重要，因为代理可以自主且快速地生成API调用，轻易超过人类操作者通常不会触及的限制。 速率限制的类型：固定窗口（每分钟X个请求，窗口结束重置）、滑动窗口（任意连续60秒内X个请求）、令牌桶（以固定速率积累token，每次请求消耗token）和漏桶（请求进入队列，以固定速率处理）。不同类型对突发流量的容忍度不同。 在AI代理上下文中的挑战：多代理共享同一API密钥（需要全局协调）、代理不了解其他代理的消耗（分布式速率限制）、速率限制导致的延迟影响代理推理质量（上下文超时）和不同API提供商的限制不统一（需要适配多种限制模式）。 最佳实践：将速率限制处理集中化（在网关或MCP服务器层面而非每个代理独立处理）、主动限制而非被动响应（追踪消耗率，在接近限制前减速）和选择速率限制宽松的提供商（减少对代理工作流的干扰）。