Agent 如何在长对话中避免“Lost in the Middle”问题？

标准回答

把当前目标和关键约束放在明确、易定位的位置，用结构化状态表保留重要事实；旧对话先摘要，回答前再检索所需片段，减少大量无关内容夹在中间。用同一事实置于开头/中间/结尾的测试验证效果；增加上下文长度本身不能保证模型记住中间信息。

预算限制埋在上百段聊天中，回答时可能被遗漏；把当前约束提成清晰状态，只检索本次需要的证据，再做效果测试。

更大的上下文窗口不保证模型会稳定利用中间位置的每一条信息。