代理工具调度

代理请求网页搜索。调度器检查可用的搜索提供商，发现主搜索API的延迟超过阈值，将请求路由到备用提供商，并在1.2秒内返回结果——代理不知道发生了路由切换。

代理工具调度与Google, Amazon, YouTube, TikTok, Reddit相关。Scavio提供统一API来访问所有这些平台的数据。

工具调度是代理框架的核心基础设施组件。当代理决定调用一个工具时，调度器负责：解析工具名称到具体实现、验证参数、管理并发、处理超时和错误、以及返回结果给代理的上下文。 调度策略包括：直接映射（工具名直接对应单一实现）、负载均衡（同一工具有多个实例，根据负载分配）、回退链（主实例失败时切换到备用）和优先级队列（关键工具调用优先执行）。在MCP架构中，调度器还需处理服务器连接管理和冷启动。 高级功能：调用去重（检测短时间内的相同请求并复用结果）、超时管理（工具执行超时时的优雅处理）、结果缓存（缓存近期相同参数的调用结果）和可观测性（记录每次调度的延迟、成功率和路由决策）。好的调度器对代理透明——代理只关心输入和输出，不需要了解路由细节。