Rerank（重排序）在 RAG 中起什么作用？有哪些实现方案？

标准回答

Rerank 在初次检索后，对候选片段与问题重新计算相关性，从 Top N 精选 Top K。常见实现是 Cross-Encoder 联合编码问题和片段、专门的重排模型，或 LLM 评分/比较；初检负责便宜地找全候选，重排负责更精确地排序，但它救不回从未被召回的证据。

向量检索找出 50 段，再用更精细的模型选出最相关的 5 段；第一轮完全漏掉的资料，重排序也无法凭空找回来。

**重排发生在哪里：**初次检索先从大量文档里快速找一批候选；Rerank 再把问题与候选逐一或成组比较，把最能回答当前问题的内容往前排。

**为什么不是候选越多越好：**重排需要额外计算时间，而且只能调整已经召回的内容。正确答案根本没进候选时，应先改善召回，不能指望重排凭空找出来。

重排无法找回第一阶段完全没有召回的证据，也不负责证明文档事实正确。