完整题目
请解释混合检索(Hybrid Retrieval)的设计动机,系统阐述Sparse检索(如BM25)与Dense检索(如DPR、向量检索)的工作原理,比较它们在相似度度量方法(如词项匹配得分、点积、余弦相似度)上的差异,并说明为何混合检索能提升RAG系统的召回效果。
本文目录
为什么要混合检索
稀疏检索和稠密检索利用的信号不同:BM25 擅长实体名、编号、错误码和查询词共现;双塔向量检索能够召回词面不同但语义接近的文本。二者都可能失败,混合检索的价值是扩大互补覆盖,而不是保证每个查询都优于单路。
两类检索与分数
- Sparse/BM25 基于倒排索引,对查询词的 IDF、文档内词频饱和和长度归一化加权。分数受实现、语料统计和查询长度影响,没有可跨系统直接比较的固定尺度。
- Dense/DPR 类双塔分别编码 query 和 document,再用点积、余弦或距离检索。点积同时受方向和模长影响;向量做 L2 归一化后,点积排序与余弦排序等价。模型质量取决于训练域、负样本和文档切分。
融合与评估
可对两路候选取并集去重后用 RRF 按名次融合;也可校准两路分数后加权,或交给 cross-encoder 重排。RRF 不要求原始分数同尺度,但仍需调节候选深度和常数;分数加权必须防止尺度漂移。
应分别报告 BM25、Dense 与 Hybrid 的 Recall@K、MRR/NDCG、无答案率、P95 延迟和成本,并按编号、术语、同义改写等查询桶分析。只有覆盖收益大于重排与延迟成本时,融合才值得上线。