跳转到内容

Agent 的工具缓存和语义缓存怎样避免返回过期结果?

确定性读工具可按输入与数据版本缓存;语义缓存按近似问题复用答案,误命中风险更高。缓存必须包含租户、权限范围、工具或模型版本,并遵守业务对新鲜度的要求。

核对权限和版本判断是否可复用命中或真实执行验证并更新缓存

查询历史文档可用较长有效期,库存与退款状态通常要实时读取或使用很短有效期。写操作不能靠缓存文本跳过执行核对。语义相似不代表约束相同,涉及时间、金额和对象时需额外精确检查。

同时统计命中率、时延、过期错误和跨权限命中。对命中的答案抽样重新执行比较,数据或权限变化触发失效;不能只报告减少了多少模型调用。

资料

核对于 2026-10-14。Spring AI 工具调用。正文场景、示例代码与方案取舍为教学示例;具体接口按选定版本核对。