Agent 的缓存系统如何设计？

标准回答

可以缓存文档/embedding、检索候选、确定性工具结果及满足条件的最终答案；每类缓存分别定义 key、版本、有效期和失效事件。key 必须覆盖会影响结果的用户权限、输入、模型/提示词及数据版本；状态变化快或有副作用的操作不能直接复用旧结果当作新执行。

“我的订单到哪了”不能跨用户共用缓存；公开产品说明也要在内容更新后失效，写操作不能因相似输入就直接复用成功结果。

语义相似不保证可复用；用户专属数据和具有副作用的操作不能盲目共享缓存。