Skip to content
阅读进度

如何理解BM25、余弦相似度与分数融合? ​

返回 大模型基础 目录

标准回答 ​

BM25 综合词项稀有程度、词频的饱和影响与文档长度等因素,适合词法相关性;余弦相似度关注向量夹角,常写为 x·y / (‖x‖‖y‖)。零向量需要明确处理,相似度高表示模型空间中的接近,不证明事实相同或逻辑成立。

两路原始分数的分布不同,直接相加可能让量纲较大的一路支配。可以使用受验证的归一化加权、基于名次的融合或重排模型,各有信息损失和成本。RRF 以名次贡献融合,可以减少对原始分数尺度的依赖,但不能补救候选缺失。

EachOf 当前有自己的信号转换和加权逻辑,不应将通用 BM25 或 RRF 公式直接说成其数据库全文路径的实际公式。调试时展示每项信号、过滤和候选来源,比只看最终总分更容易解释结果。

追问与回答 ​

余弦相似度为负代表什么 ​

在一般向量空间中表示方向夹角大于直角,但具体语义仍取决于模型和分布;不能机械翻译为内容互相矛盾。

为什么高频词贡献往往有限 ​

它对区分文档的信息量较低,词频也需要饱和以避免单纯重复堆词占据排序;具体计算看引擎与配置。

易混淆点 ​

  • 把语义相似分数当作真假概率。

参考资料 ​

内容来源 ​

用完整回答理解机制,用真实证据解释项目。