匹配正文：一、检索器选择：多路召回稠密检索（Dense）基于Embedding：DPR、Contriever，适合语义匹配优势：跨表述理解；劣势：对罕见实体、精确匹配弱稀疏检索（Sparse） BM25、TF-IDF、SPLADE，适合关键词精确匹配优势：零样本、可解释；劣势：语义鸿沟实践策略：双路召回 + 线性加权或Learned Fusion（如RRF倒数排序融合）二、索引结构优化方法核心思想适用场景 HNSW 图索引，贪心导航百万级，高召回要求 IVF 聚类…

#阿里云#查询重写#RAG 召回优化

面试题·检索· 美团

稀疏稠密与混合检索

匹配正文：…准 ❌ 可能失配语义改写/口语化查询 ❌ 字面不匹配 ✅ 语义捕获长尾低频词 ✅ 稳定 ❌ 学习不充分实际做法：并行召回：BM25 + 向量检索各取Top-K 融合排序：线性加权 score = α·BM25_score + β·dense_score，或训练 LTR 模型两阶段：混合召回 → Cross-Encoder 精排美团这类业务场景（POI搜索、外卖Query）尤其需要混合策略——用户既搜"麦当劳"（精确品牌）也搜"好吃的汉堡"（语义意图），单一检索无法…

#美团#稀疏稠密检索#稀疏稠密与混合检索

面试题·评估· 字节

医疗法律RAG：评估陷阱

匹配口述回答：…向用混合召回。单一向量检索在专业领域不够，因为术语表达很精确，比如“心动过速”和“心跳快”语义相近，但“盐酸二甲双胍”和“降糖药”向量距离可能很远。所以我会把稠密向量检索和 [[BM25]] 关键词检索结合起来，前者抓语义相似，后者保精确匹配。另外，我会做一个查询改写模块，把用户口语化的输入翻译成专业术语，比如“心跳快”转成“心动过速”。[[重排序]]这一步也很关键，用 [[Cross-Encoder]] 对初筛结果精排，把最相关的文档顶到前面。生成模型层，基座我倾向选一个…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#专业领域 RAG#RAG 系统设计

面试题·评估· 字节

RAG 文档检索选型

匹配口述回答：…否遗漏，之后才是融合和重排。Query Expansion、HyDE 或意图路由都有额外延迟和生成误差，不应该默认对所有请求开启。Cross-Encoder 只能改善已有候选的排序，不能救回根本没有召回的文档。切块与元数据也是检索方案的一部分。标题、章节、表格位置、文档版本和权限标签如果在解析时丢失，后面换更强的 Embedding 也补不回来。多租户系统尤其要说明权限过滤发生在召回前还是召回后：召回后再过滤可能造成候选不足，也可能让不应访问的文档进入缓存或日志。增量更新还…

#字节#混合检索#RAG 文档检索选型

面试题·模型微调· 字节

RAG 检索与生成流程详解

匹配口述回答：…[ANN]]检索，从库里召回Top-K个相关块。但光靠向量检索不够，因为语义相似不等于内容相关，所以我会加一道[[重排]]，用[[Cross-Encoder]]模型精排，把低质量的过滤掉。最后把排好的块拼成Prompt，喂给大模型生成答案。这里有个坑：很多人以为只靠向量检索就行，但实际场景里，关键词匹配往往能补足向量检索的盲区。比如搜一个产品型号“A100-Plus”，向量可能把它跟“A100”混淆，但[[BM25]]能精确命中。所以落地时，我倾向于用[[Hybrid Se…

#字节#检索生成流程#RAG 实现

面试题·知识图谱· 淘天

RAG 系统痛点怎么破?

匹配口述回答：…间有一堆坑。我重点讲三个，然后说改进思路。先说检索噪声。你召回了Top-K文档，里面可能混了大半无关内容，模型一读就偏。根源在于向量相似度不等于语义相关性，尤其领域术语[[Embedding]]经常搞不定，加上[[Chunk]]切分把语义切碎了。改进我一般两条路一起走：一条是加[[Rerank]]，比如用[[Cross-Encoder]]二次精排，把噪声压下去；另一条是[[Hybrid Search]]，把[[BM25]]和向量检索结合，关键词匹配和语义匹配互补。这里有个坑…

#淘天#知识图谱#RAG 痛点

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配口述回答：…语义连贯的段落拆散，我倾向于用语义切分，比如按段落或者用 [[Chunk]] 重叠来保证上下文不丢。在线检索时，用户问题同样转成向量，用 [[ANN]] 算法比如 [[HNSW]] 召回 Top-K 相关文档。但光靠向量检索不一定准，尤其是用户问法跟文档表述差异大的时候。所以我会加一层查询改写，比如把“怎么退运费”扩写成“退货流程中运费承担规则”，或者用 HyDE 先生成一个假设文档再去匹配。召回后还要做 [[Rerank]]，用 [[Cross-Encoder]] 精排一…

#字节#检索生成流程#RAG 技术原理

面试题·RAG· 字节

垂直领域 RAG 完整架构

匹配口述回答：…性打架，用户拿到过时的指南还以为是金标准。检索这块，我不会只用一种方式。真正落地往往是多路召回加领域精排。召回我会走三条路：稠密向量，用领域微调过的 Embedding 模型，比如医疗的MedEmbed；稀疏向量，就是 [[BM25]] 加领域同义词扩展，比如法律里“撤销”和“撤回”是同义；还有图谱召回，通过 [[Entity Linking]] 做实体链接后走 [[Knowledge Graph]] 子图遍历。三条路并行，召回率才能上去。精排阶段，我会用 [[Cross-…

#字节#垂直领域RAG#垂直领域 RAG 完整架构

面试题·RAG· 小红书

RAG 检索噪声怎么处理?

匹配口述回答：…里可能夹杂了历史版本说明和废弃流程，压缩之后只保留当前有效条款，生成准确率明显提升。再一个，我比较推荐搞 [[混合检索]]，就是向量检索加 [[BM25]] 关键词检索，甚至接[[知识图谱]]，多路召回之后做加权融合。这样能避免单一检索方式被噪声带偏。比如向量检索容易把语义相近但实际无关的文档召回来，关键词检索反而能纠正。但这里有个坑：融合策略不是简单的取交集或求平均，得根据场景调权重。比如小红书那种 UGC 内容，噪声类型很复杂，标题党、软广、过时笔记都有，我可能还会加时…

#小红书#检索噪声过滤#RAG 噪声处理

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配口述回答：…化。检索前做查询改写或扩展，比如用 HyDE 先生成一个假设文档再检索；检索中用 [[Hybrid Search]] 融合关键词和向量，再用 [[Cross-Encoder]] 做 [[重排]]；检索后做上下文压缩，把检索回来的长文本摘要成关键信息，避免把噪声带进生成。这里有一个关键点：不是所有场景都需要重排。如果知识库质量高、[[分块]]合理，直接用 [[BM25]] 加向量检索的混合就够用了；只有噪声多、需要精确排序的场景，比如企业合规文档，才需要加重排。我实际落地企业知…

#淘天#RAG架构分类#RAG 分类

面试题·检索· 字节

RAG 为什么需要 Re-ranking?

匹配口述回答：…度打分，确保最终结果既快又准。先说为什么必须重排。你想想，召回阶段用的是 Bi-Encoder，query和doc各自独立编码成向量，然后算相似度。好处是doc向量可以离线算好，线上只算query，所以能到毫秒级。但代价就是缺乏细粒度交互，两个向量之间没有token级的匹配，容易把语义相关但实际不精准的文档也召回来。比如用户搜“苹果”，可能是水果也可能公司，双塔很难区分，但 Cross-Encoder 把query和doc拼接在一起过Transformer，通过注意力机制能…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 为何还要重排?

匹配口述回答：…瓶颈，整个 RAG 链路的响应时间翻了好几倍。所以我的做法是，先保证召回质量，用 [[Hybrid Search]] 比如 [[BM25]] 加向量检索，把 Top-20 的命中率提到 90% 以上，然后再用重排做精排。这样重排只需要处理 20 条，延迟增加几十毫秒，但生成质量提升很明显，尤其是减少 [[Hallucination]]。不过重排也不是万能的。如果召回的文档本身就全是噪声，比如 Embedding 模型没训好，那重排也救不了，因为巧妇难为无米之炊。所以上线前…

#字节#重排与优化#RAG 重排

面试题·检索· 字节

RAG 系统怎么持续迭代?

匹配口述回答：…质量，如果检索回来的东西就不对，后面再怎么调也救不回来。这里有个关键前提：你不能指望单一检索方式解决所有问题。关键词召回比如 [[BM25]] 适合精确匹配，比如订单号、错误码这种；向量检索适合语义匹配，比如用户说“退款没到账”这种口语化表达。真正落地时我会做 [[Hybrid Search]]，把关键词和向量结合起来，再配合查询改写，比如用户说“退货”，我能自动扩展成“退货退款”“退货流程”，或者用 LLM 把模糊 query 转成更明确的意图。举个例子，在客服场景里，用户…

#字节#RAG评估闭环#RAG 系统优化

面试题·检索· 快手

RAG 延迟与准确率优化

匹配正文：…败：复杂问题需跨文档推理，单轮检索覆盖不全优化思路延迟优化预检索策略：热点query缓存、用户画像预加载常用知识检索加速：向量量化(IVF-PQ)、图索引(HNSW)、检索结果缓存流式生成：首token返回后chunk输出，降低用户感知延迟并行化：检索与LLM调用解耦，工具调用异步化正确率优化混合检索：向量+关键词+知识图谱多路召回，RRF融合查询改写：HyDE生成伪答案再检索，解决query-doc语义gap 重排序精排：Cross-encoder细粒度打…

#快手#RAG延迟优化#RAG 延迟与准确率优化

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配口述回答：…像主题匹配、领域对齐这种，但它做不了精细的交互。比如用户搜“苹果笔记本”，你召回“苹果公司财报”和“MacBook Pro评测”，向量上可能都很近，但用户要的是产品本身。再一个，向量维度有限，信息压缩过程中会损失很多细节，比如实体精确匹配、否定词这种，[[Faiss]]或者[[HNSW]]索引再快，也解决不了语义颗粒度的问题。所以两阶段架构就来了。第一阶段用向量检索或者[[BM25]]做召回，目标是高召回、快，允许精度低一点，比如从百万级文档里先捞出Top 100。第二阶段…

#字节#Rerank模型#RAG Rerank

面试题·检索· 字节

RAG 核心实现原理是什么?

匹配口述回答：…数据量上千万、要求实时更新，就得用Milvus或者Pinecone。这里有个前提：如果业务场景是精确匹配，比如查订单号或错误码，那向量检索不如关键词搜索[[BM25]]，所以生产上我一般搞[[混合检索]]，向量和关键词两条路一起走，再用[[Rerank]]精排。说到Rerank，这是提升质量的关键。向量检索是粗筛，召回几百条，但很多不相关，这时候用[[Cross-Encoder]]模型对候选结果逐条打分，只保留Top-5。代价是多了几十毫秒延迟，但效果提升明显，尤其对客服退…

#字节#RAG实现原理#RAG 实现原理

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配口述回答：…到旧法就出大问题。检索优化这块，我会上[[Hybrid Search]]，把稠密向量和稀疏向量结合起来。稠密向量用领域微调的[[Embedding]]，比如法律BERT，处理语义匹配；稀疏向量用[[BM25]]加法条编号精确匹配，处理条款号这种精确查询。为什么这么组合？因为法律场景里用户可能搜“第X条”，向量模型对这种精确数字不敏感，但BM25能直接命中。说白了，没有哪种检索方式能覆盖所有场景，落地一定是混合的。然后[[重排序]]用领域微调的[[Cross-Encoder]…

#字节#专业领域RAG#领域 RAG 架构

面试题·检索· 商汤科技

RAG 两阶段架构：模块与数据流

匹配口述回答：…，先做Query理解，比如改写或者扩展，因为用户可能输入得很随意，比如“退款多久到账”和“退货钱什么时候退”其实是一个意思。然后去向量库做检索，用向量相似度召回Top-K个候选文档。这里有个坑：纯向量检索容易漏掉精确匹配的场景，比如订单号或者错误码。所以落地时我通常会把向量检索和关键词检索结合起来做 [[Hybrid Search]]，比如用 [[BM25]] 做关键词召回，再融合排序。召回的文档不一定都相关，所以下一步是[[重排]]，用 [[Cross-Encoder]] …

#商汤科技#两阶段文档处理#RAG 系统架构

面试题·检索· OPPO

Context vs Prompt Engineering 区别?

匹配口述回答：…ext Engineering 是选材的艺术。具体到上下文工程，我一般把它拆成三层。第一层是检索，这里不能只用一种方法，我会把向量检索和 [[BM25]] 这种关键词检索结合起来做，也就是 [[Hybrid Search]]，能覆盖语义相似和精确匹配两种需求。第二层是[[重排序]]，因为初步召回的结果往往有噪音，我会用 [[Cross-Encoder]] 做一次精排，把真正相关的文档提到前面，同时用 MMR 算法控制多样性，避免一堆相似内容挤占上下文窗口。第三层是压缩，…

#OPPO#Prompt工程#Context Engineering

面试题·检索· 字节

RAG 为何需要重排序?

匹配口述回答：…上线我会特别关注候选集合的Recall@K，如果前20个里面没有正确答案，重排序再强也没用。所以落地时我会采用混合策略：先用[[BM25]]和向量检索做[[Hybrid Search]]，保证召回覆盖，再用LLM做重排序或生成。说白了，向量检索解决“找得快”，LLM解决“找得准”，两者互补。还有个延伸点：如果业务对实时性要求很高，比如金融实时风控，LLM重排序的延迟可能成为瓶颈。这时候我会考虑用[[Cross-Encoder]]做轻量级重排，或者干脆把重排序和生成合并，用…

#字节#向量召回与重排#RAG 重排序

面试题·检索· 字节

RAG 技术实现怎么落地?

匹配口述回答：…ens 之间。然后用 [[Embedding]] 模型转成向量，存到 [[Vector Database]] 里。这里有个取舍：纯向量检索语义好，但对精确匹配比如订单号、错误码很弱，所以落地时我一般会加上 [[BM25]] 做 [[Hybrid Search]]，两条路并行再合并结果。在线检索时，用户问题来了，先做查询改写，比如把“上个月的退款”扩展成“2025年3月的退款申请”，提升召回率。然后算相似度，取 Top-K，再用 [[Cross-Encoder]] 做 [[R…

#字节#RAG应用场景#RAG 技术实现

面试题·评估· 美团

RAG 缓解幻觉的机制

匹配口述回答：…落地时，检索质量才是瓶颈。如果召回的内容是错的，或者跟问题不相关，那生成再好也没用。所以实际系统里，我会特别关注几个点：一是 [[Embedding]] 模型要领域适配，比如医疗场景用专门的医学 Embedding 模型；二是要加 [[Rerank]] 这一步，因为向量相似不等于语义相关，用 [[Cross-Encoder]] 精排能过滤掉很多噪声；三是文档切分策略，固定长度切分经常把语义切碎，我倾向按语义段落或者用 [[Sliding Window]] 加重叠来切。这里有…

#美团#事实锚定#RAG 缓解幻觉的机制

面试题·评估· 字节

RAG 评测优化闭环

匹配口述回答：…业务指标，比如客服场景下的用户满意度或问题解决率。优化策略这块，我习惯按三个方向展开。检索侧，最见效的是[[混合检索]]，把[[BM25]]和[[Embedding]]结合起来，能覆盖关键词和语义两种场景。比如企业合规文档里，员工查“报销流程”可能用模糊描述，但查“SOP-2024-01”这种编号就必须靠关键词，所以两条路都得有。再一个就是[[分块]]策略，按语义切分比固定窗口好，但遇到表格或代码块，就得保留结构完整性。另外[[重排]]也很关键，用[[Cross-Encod…

#字节#评估与监控#RAG 评测优化闭环

面试题·评估· 百度

RAG 架构怎么工作?

匹配口述回答：…，检索到无关内容会干扰生成，这就是所谓的"迷失在中间"效应。所以真正落地的时候，我会做几个工程取舍。先说[[混合检索]]，不只用向量，还结合[[BM25]]这类关键词匹配，让两种方法互补。再一个是加[[重排]]，召回Top-K之后用更精细的模型比如[[Cross-Encoder]]重新打分，把真正相关的顶上来。还有就是置信度过滤，分太低的直接扔掉，宁可少给信息也别给错的。还有一个常被问到的问题是RAG和微调的边界。我的看法是，RAG适合知识更新快、需要溯源的场景，比如客服…

#百度#评估与监控#RAG 架构