如何理解RAG 的切分、重排与证据引用？

返回 大模型基础 目录

标准回答

切分过大容易混入无关内容、消耗预算，过小会丢失指代、条件和段落关系。可按文档结构、语义边界与任务需要组织片段，保留文档 ID、位置、版本和必要上下文；重叠有助于边界连续，也会增加重复与存储。

重排在候选集合内进一步判断相关性，可以用更昂贵的联合模型或规则，但增加延迟与成本。查询改写和多路扩展可能改善召回，也可能改变原始意图、扩大权限暴露面；扩展后的每一路仍需遵守同样授权。

答案引用需要指向真正支持对应结论的来源，不能只附一个看起来相关的链接。生成前检查证据是否当前有效，生成后检查断言是否超出证据。没有足够资料时，应表达缺项或请求进一步信息，而不是用格式完整的引文掩盖无依据内容。

追问与回答

Chunk 越多是不是 Recall 越高

可能提高部分匹配，也可能制造重复、截断和噪声；应按文档和查询粒度去重并评价任务结果。

如何区分检索失败与生成失败

先看正确证据是否进入候选和最终上下文，再检查模型是否正确使用；分层评价能避免只更换模型却不修召回。

易混淆点

• 只要有引用就认为每个结论都得到支持。

参考资料

• Retrieval-Augmented Generation

内容来源

• Android 与 AI 工程 Wiki · 原条目 q215