完整题目
请详细阐述RAG系统中检索模块（Retriever）的完整工作流程，包括用户查询的预处理、向量化表示、在向量数据库中的相似性检索、候选文档的排序与筛选，以及最终结果的返回机制，并说明各环节的技术实现要点及其对整体系统性能的影响。
本文目录
1. 查询预处理
- 查询改写：识别用户真实意图，补全省略信息（如"这个多少钱"→结合上下文补全商品名）
- HyDE（假设文档嵌入）：让LLM生成伪答案再向量化，解决查询-文档语义鸿沟
- 查询扩展：同义词扩展、子问题分解（如Multi-Query）
2. 向量化表示
- 模型选型：通用场景用BGE/M3-Embedding，垂直领域需微调
- 关键细节：截断长度、是否添加指令前缀（如"Represent this sentence for retrieval"）
- 动态更新：用户反馈回流，做对比学习微调
3. 向量检索
- 索引结构：HNSW（高召回、内存型）、IVF-PQ（磁盘型、省内存）
- 检索参数：ef_search、nprobe权衡延迟与准确率
- 过滤机制：前置元数据过滤（时间、权限标签）减少搜索空间
4. 候选排序与筛选
- 多路召回：向量+稀疏（BM25）+ 关键词，线性加权或Learned Fusion
- 重排序（Rerank）：Cross-Encoder精排，如bge-reranker，Top-K从100→20
- 去噪策略：置信度阈值、聚类去重
5. 性能影响要点
| 环节 | 核心瓶颈 | 优化方向 |
|---|---|---|
| Embedding | 模型推理延迟 | 量化INT8、ONNX/TensorRT、批处理 |
| ANN检索 | 内存占用、建索引时间 | 分层量化、增量索引 |
| Rerank | 二次编码开销 | 轻量模型、截断候选集 |
关键权衡：召回率vs延迟，通常离线评测Recall@K，线上关注P99延迟。实际系统中常做"快路径"（纯向量）+ "慢路径"（+重排）分级处理。
学习建议
建议先掌握向量检索基础，理解嵌入模型和相似度计算原理，再结合RAG架构学习Retriever的工作流程，通过动手实践加深理解。
换一种问法，检查是否真正理解
场景切入
假设你在做一个电商客服助手，用户问“这个多少钱”，但之前聊的是某款手机。你怎么让检索器找到对应的商品说明书，而不是搜出一堆不相干的价格页？从预处理到召回，你具体怎么做？
层层追问
你做过RAG的检索模块吧？用户输入一个查询后，你第一步做什么？……好，那向量化的时候，不同领域表现差异大，你会怎么选模型？……假设向量库里搜出100个结果，你怎么排序和筛选，最终只给用户5个？每一步的权衡是什么？
直球架构
给我完整讲一下RAG系统中检索模块的工作流程，从用户查询的预处理、向量化、相似性检索，到候选排序和结果返回。重点说每个环节的技术实现要点，以及怎么影响整体系统的延迟和召回率。
练习口述回答 · 约4分钟
- 本质是查询与文档的语义对齐
- 查询预处理：改写、HyDE、扩展
- 向量化：模型选型、截断、指令前缀
- 检索：HNSW、元数据过滤、混合检索
- 排序：多路召回、重排、去噪
- 落地权衡与风险
这道题问的是[[RAG]]系统里检索模块的完整流程，本质上是在考察「如何把用户的一个自然语言查询，精准、高效地映射到知识库里最相关的文档片段上」。整个链路我拆成四段来说：查询预处理、[[向量化]]、检索、排序。
先说查询预处理。用户输入往往很随意，比如在电商客服场景，用户问「这个多少钱」，你得结合上下文补全商品名。这里有个常用手段叫 HyDE，就是让大模型先生成一个假设的答案文档，再拿这个文档去向量化检索，能大幅缓解查询和文档之间的语义鸿沟。另外我还会做查询扩展，比如同义词替换，或者拆成多个子问题并行检索，但扩展太多会引入噪声，得控制节奏。
第二步是向量化。模型选型上，通用场景用 BGE 或 M3-Embedding 就够了，但如果是垂直领域比如金融合规，最好在领域语料上微调。这里有三个细节：一是截断长度，超了会丢信息；二是要不要加指令前缀，比如「Represent this sentence for retrieval」，加了能提升检索精度，但不同模型要求不一样；三是动态更新，如果用户反馈回流，可以做对比学习微调，让 Embedding 更贴合当前业务。
第三步是向量检索。索引结构我常用 [[HNSW]]，它召回率高但吃内存，适合数据量在千万级以内的场景；如果数据上百亿，可以考虑 [[IVF-PQ]]，牺牲一点精度换内存。检索参数比如 ef_search 和 nprobe 直接影响延迟和召回率的平衡，上线前我会做压力测试找最优值。另外，前置元数据过滤很重要，比如按时间范围或权限标签先筛一遍，能大幅缩小搜索空间，而不是把几亿条向量全扫一遍。
第四步是候选排序。我一般不会只依赖向量检索，因为稀疏特征比如关键词匹配也很重要。所以会做 [[混合检索]]，把向量 + [[BM25]] 的结果线性加权融合，或者用学习模型动态调权。然后[[重排序]]，用 [[Cross-Encoder]] 比如 bge-reranker 对 Top-100 精排到 Top-20，这一步很关键，能显著提升最终回答的质量。最后是去噪，设定置信度阈值，低于阈值的直接丢掉，或者对语义重复的聚类去重。
这里有个落地风险：重排序虽然效果提升明显，但二次编码带来的延迟可能是向量检索的几倍。所以实际系统里我倾向做分级处理，快路径只走纯向量检索，慢路径加上重排，根据业务容忍的延迟决定。比如客服场景，用户等不了太久，我会把重排的候选集从 100 截断到 20，甚至直接用轻量模型替代。
另外，我最近在关注一个问题：当知识库频繁更新时，增量索引怎么做才不会影响线上召回质量。比如新增文档直接插入 HNSW 图，但删除和修改如果原地操作，图结构会崩。我的思路是分三类处理：新增直接走增量，删除用软删除加异步重建，修改则视为旧版本软删除加新版本新增。同时维护 base 和 delta 双索引，查询时合并，构建完用固定 query 回放对比 Recall@K，通过才原子切换。。