上下文太长、成本太高怎么办？

返回 Agent 工程 目录

标准回答

先减少无关输入和重复工具结果，再对历史做可追溯摘要或按需检索；限制输出与循环预算，同时保留目标、约束、关键证据和未完成动作。

关键机制

• 按任务重要性分配预算：固定规则、当前请求、关键状态、证据和近期交互；不要机械保留所有最早或最新内容。
• 长工具输出先结构化提取，原文放外部存储按需查；摘要记录来源与不确定性，避免总结后被当作新事实。
• 可用较小模型处理分类等简单工作，复杂决策交给更强模型；缓存收益要结合命中率与平台计费方式验证。

通俗例子

设备返回 5000 行日志，先提取时间段、错误链和相关请求编号，保留原文定位入口，而不是每轮都重传全部日志。

易混淆点

压缩过度会丢失权限、否定条件和关键参数；节约 token 必须同时观察任务成功率与恢复成本。

参考资料

• 官方参考

内容来源

• Android 技术札记 · 原条目 context