跳转到内容

Agent 反复调用工具、费用上涨,怎么限制和排查?

限制单次输出长度,只管得住一次模型调用。Agent 会多轮调用模型和工具,所以预算要覆盖整个任务:总时长、模型调用次数、工具调用次数、Token 和允许的费用。

执行层在下一次调用前检查剩余预算,运行中记录实际用量。不能只把“最多调用五次”写进提示词。并发子任务要共享或分配总预算,别让每个子 Agent 都拿一份完整额度。

是临时故障无额度或持续故障任务总预算下一步调用前检查仍有额度且依赖健康?调用模型或工具记录用量、耗时、结果退避重试,仍占总预算停止或转人工采用已验证降级已完成结果剩余问题

按 run_id 串起模型和工具的 Trace,看调用次数、输入增长、工具耗时及重复参数。常见问题是工具结果过长、失败后重复查询,或者应用、网关和 SDK 每层都重试一次,把请求倍增。

重试集中到明确的一层,区分可重试故障和权限、参数错误。限流控制请求速度,预算限制总消耗,熔断在依赖持续失败时暂时停止请求。三者解决的不是同一件事。

大模型失败,切到小模型就行吗?

Section titled “大模型失败,切到小模型就行吗?”

先验证任务成功率、工具协议、结构化输出和权限约束是否仍满足。降级模型可能产生不同调用或更差的结果;不能为了省钱让它执行未经验证的写操作。也可以只把简单分类任务交给小模型。

保存已完成结果,指出哪一步没完成及原因。没有查到证据时,不要让模型强行编一个答案。费用以服务商实际计量为准,本地估算应与计费记录分开。

资料

核对于 2026-10-13。Spring AI Alibaba 模型调用限制与工具重试、阿里云 Agent 可观测性。总预算与分层重试的处理为工程建议。