匹配口述回答：…有，如果业务文档有大量同质化内容，重排模型可能分不清谁更优。所以上线前我会特别关注：一是用一组历史query回放，对比加不加重排的Recall@K和生成答案的[[Faithfulness]]分数；二是根据延迟预算选模型，如果要求实时，就用Cross-Encoder的小模型，如果允许几秒延迟，甚至可以用LLM本身做重排，效果更好。还有一个有意思的点，就是重排和[[Hybrid Search]]的关系。很多人以为有了重排就不需要混合检索了，其实不是。混合检索能补上向量检索在精确…

#字节#重排与优化#RAG 重排收益与成本

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配口述回答：…排模型的计算开销还是不小的，如果Top K设得太大，比如500，延迟就会变高，影响用户体验。上线我会特别关注两个指标：一是重排后的Recall@K有没有提升，二是端到端延迟是否在可接受范围内。另外，重排模型要定期更新，因为数据分布会漂移，比如电商大促期间，用户query的语义可能跟平时不一样。说到更新，其实有个延伸话题：如果知识库频繁变动，重排模型要不要跟着在线微调？我个人觉得，大多数场景下离线定期更新就够了，但如果是实时性要求很高的场景，比如金融行情问答，可能需要引入增量…

#字节#Rerank模型#RAG Rerank

面试题·检索· 快手

RAG 延迟准确率根因

匹配口述回答：…。常见失败场景是知识库更新滞后，如果政策变了，旧文档还在，检索出来就是错的。所以我会特别关注文档版本管理和动态更新。上线后我会监控Recall@K和延迟P99，如果召回率低于85%，就调大Top-K或加Rerank。我更倾向把RAG看成检索和生成的协作，而不是单独优化一个环节。延迟和准确率永远是跷跷板，关键是找到业务能接受的平衡点。说到这，我其实更关注一个延伸点：当Agent需要多跳推理时，单轮检索往往不够，这时候怎么设计检索策略？比如用户问“满200减50的券能和折扣叠加吗…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#快手#RAG延迟与准确率#RAG 延迟准确率根因

面试题·检索· 高德

RAG 组件功能与数据流向?

匹配口述回答：…坑，就是检索质量。如果知识库里本身就有错，或者分块不合理，检索结果全是无关的，那LLM再强也白搭。所以我上线前一定会做召回评估，看Recall@K和MRR，确保检索质量达标。另外，RAG和微调不是二选一。微调适合让模型学会特定格式或风格，但知识更新慢。RAG适合动态知识，比如价格、库存、政策。真正落地往往是两者结合：微调让模型理解业务语义，RAG提供实时知识。最后说一下我的判断。我会把RAG看成一套系统工程，而不是简单的检索加生成。它的前提是知识库质量要够高，如果文档本身混…

#高德#RAG数据流#RAG 工作流程

面试题·检索· 字节

RAG检索方法选型原因？

匹配口述回答：…果用户 query 口语化严重、内容平台，密集检索为主。更重要的是，上线前一定要做回放测试，拿历史真实 query 跑一遍，对比 Recall@K 和延迟，不达标就回滚。因为很多问题只有线上数据才暴露得出来。其实还有一个延伸方向：当知识库频繁更新时，比如电商商品价格每天变，向量索引的增量更新怎么做才能不降低召回质量？这个我也有一些实践，比如用双缓冲影子索引加软删除。点题：本质是场景匹配与工程取舍密集检索 vs 稀疏检索：边界划分混合检索的设计动机和融合策略优化重点…

#字节#评估与监控#RAG 检索方法

面试题·检索· 京东

RAG 怎么解决大模型幻觉?

匹配口述回答：…发挥。而且知识库一更新，模型立马能用新知识，不用重训。但前提是检索质量得过硬，检索错则生成错。上线我会特别关注两件事：一是检索的 Recall@K 能不能稳定在 90% 以上，二是生成时模型是否忠实于上下文，会跑 [[Faithfulness]] 指标。常见失败场景是用户 query 太模糊，比如「我的订单有问题」，这种需要先做 query 改写或 [[Self-RAG]] 让模型自己判断要不要追问。其实 RAG 还有一个隐含前提：知识库本身的质量。如果库里有矛盾或过时的信…

#京东#幻觉抑制#RAG 技术原理

面试题·检索· 字节

RAG 系统实现：组件与流程

匹配口述回答：…只会放大错误。常见失败场景是切分破坏了上下文，导致模型答非所问。所以上线前我会特别关注召回率的评估，用一套标准query跑一遍，看Recall@K有没有达标。如果召回率低，我会先调切分策略或者换Embedding模型。所以我的判断是，RAG不是万能的，它最适合知识库相对静态、答案有明确来源的场景，比如客服、合规、产品文档。如果知识库频繁变动，或者问题需要多步推理，那可能要上 [[Agent]] 或者 [[ReAct]] 方案。我更倾向把RAG当成一个基础模块，和微调、Age…

#字节#RAG系统实现#RAG 实现

面试题·检索· 字节

RAG架构：检索器与重排序策略

匹配口述回答：…没调好，比如HNSW的ef_construction设太小，建图质量差，导致召回崩了。所以上线前我会用一批固定query回放，对比Recall@K和延迟。 [[重排序]]策略我用两阶段漏斗。第一阶段召回池大，比如Top-100，用轻量模型快速过滤；第二阶段用Cross-Encoder对召回候选交互打分，再选最终Top-K；例如给Top-100候选打分后取Top-5，而非只给已选的5篇打分。如果延迟敏感，我会用[[ColBERT]]做late interaction，精度折中但…

#字节#向量库与重排序#RAG 架构设计

面试题·检索· 商汤科技

RAG 两阶段架构：模块与数据流

匹配口述回答：…政策，回答就不准。二是检索质量，如果Top-K召回的文档里混了噪声，LLM会被带偏。所以上线前我会用一批历史Query做回放，对比Recall@K和答案准确率。三是延迟，在线阶段每一步都有开销，尤其是重排和LLM生成，所以我会用缓存和异步处理来优化。还有一个细节值得深挖，就是分块粒度对检索的影响。比如一份技术文档，按固定256字切块，可能把一个API说明切成两半，检索时只召回前半段，LLM就不知道完整用法。而如果按章节切，块太大，检索时又可能带进不相关的内容。所以我会根据文…

#商汤科技#两阶段文档处理#RAG 系统架构

面试题·检索· 小鹏

RAG检索优化：向量检索与重排序

匹配口述回答：…的维护成本，而且如果关键词和向量的结果差异很大，融合后可能两边都不讨好。所以我的做法是：先跑离线实验，看单独用向量和单独用关键词的Recall@K，再决定混合的权重，甚至做动态路由，比如检测到query里有数字或ID，就走关键词，否则走向量。其实还有一个方向是自适应检索，根据query的难度动态决定召回多少条，或者决定要不要触发重排。比如简单问题只向量检索就够，复杂问题才走全链路。这个在线上能省不少算力，但实现起来要小心，因为判断query难易本身就不容易，搞错了反而降低体…

#小鹏#检索阶段优化#RAG 检索优化

面试题·检索· 高德

语义检索向量数据库构建流程

匹配口述回答：…ery的向量结果和Embedding结果都缓存起来，能挡住大部分重复请求。其实还有一个经常被忽略的点，评估。线上效果好不好，光看Recall@K不够，还要关注用户实际点击行为和业务指标。比如在客服场景，用户搜了之后有没有解决问题，比召回率更重要。这个评估体系怎么搭，我觉得比检索本身更考验工程能力。所以整体来说，我会把[[向量数据库]]看成一个系统工程，每个环节都有trade-off，没有银弹。更倾向根据业务场景做组合方案，而不是套一个固定模板。本质是让机器理解语义并高效…

#高德#评估与监控#向量数据库构建

面试题·检索· 字节

RAG 为何需要重排序?

匹配口述回答：…来。常见失败场景是Embedding模型领域适配不够，比如通用模型做医疗问答，专业术语向量化后语义偏移。上线我会特别关注候选集合的Recall@K，如果前20个里面没有正确答案，重排序再强也没用。所以落地时我会采用混合策略：先用[[BM25]]和向量检索做[[Hybrid Search]]，保证召回覆盖，再用LLM做重排序或生成。说白了，向量检索解决“找得快”，LLM解决“找得准”，两者互补。还有个延伸点：如果业务对实时性要求很高，比如金融实时风控，LLM重排序的延迟可能…

#字节#向量召回与重排#RAG 重排序

面试题·检索· 字节

Embedding 怎么实现语义召回?

匹配口述回答：…检索与推理失败。如果知识库频繁更新，或者查询高度依赖精确匹配，我会搭配关键词或者甚至用微调模型。上线前我会特别关注召回率指标，比如Recall@K，还有延迟，确保在用户容忍范围内。如果效果不行，优先查分块策略和Embedding模型是否匹配领域，而不是盲目调参数。本质定位：端到端语义匹配流程拆解：离线分块+向量化，在线检索+重排落地优化：混合检索、领域微调、效率取舍风险与边界：分块策略、模型失配、上线校验约4分钟分块策略（滑动窗口+重叠）对召回质量的影响，以及存储…

#字节#向量语义召回#Embedding 语义召回

面试题·检索· 小红书

BM25 vs 向量检索 vs 混合检索怎么选?

匹配口述回答：…5只召回10条，直接RRF可能把BM25的高质量结果埋没掉。我上线前会做一遍小流量A/B测试，分别调k值和召回截断数，确保融合后的Recall@K和延迟都达标。举一个电商搜索的例子。你在淘宝搜‘显白口红’，用户意图是场景化的，向量检索能理解‘显白’对应橘调或蓝调色系。但商品标题里‘口红’、品牌名‘MAC’这些精确词，必须靠BM25锁定。所以实际策略是：搜索词含品牌或型号时，动态提高BM25权重；长尾场景词时，提高向量权重。这个权重不是拍脑袋定的，而是用历史点击日志训练一个轻…

#小红书#检索方法对比#BM25 向量检索混合检索

面试题·检索· 哔哩哔哩

召回 vs 粗排怎么分工?

匹配口述回答：…长、转化和满意度，就可能过早删除精排偏好的内容。多目标训练或蒸馏可以提高保真度，但仍要通过回放和线上实验验证。我会画候选深度与 Recall@K、精排保留率、P95 延迟和单请求成本的曲线，再按新内容、长尾用户和不同召回路分桶。阶段边界由这组曲线决定。召回用低成本方法保证候选覆盖粗排用中等成本模型减少精排负担粗排是按规模与预算选择的可选层用覆盖质量与成本曲线决定候选深度约90秒召回保覆盖、粗排控成本，层数和候选深度应由质量成本曲线决定。可继续讨论粗排蒸馏、选择…

#哔哩哔哩#召回与粗排#召回与粗排区别

面试题·检索· 阿里

RAG 召回又快又准靠什么?

匹配口述回答：…敏感的用HNSW加量化，对精度要求高的用混合检索加精排，对成本敏感的做冷热分层。关键是上线前一定要压测，用真实query回放，对比Recall@K和延迟，不达标就回滚。定位：RAG召回本质是精度、速度、成本的三角博弈检索效率：索引选择与量化压缩的工程权衡相关性：混合检索与两阶段精排的落地组合可扩展：增量更新与冷热分层的架构设计收尾：工程师的取舍判断与延伸点约4分钟增量更新中删除操作的坑：软删除加异步重建，避免图索引质量下降面试官可能会追问图索引动态维护的具体方…

#阿里云#召回链路优化#RAG 召回优化

面试题·检索· 字节

召回模型怎么搭建?

匹配口述回答：…引，召回质量很容易崩。我一般会把删除标记为软删除，后台异步重建索引，再配合双缓冲影子索引做原子切换，上线前用固定query回放对比Recall@K和延迟，不通过就回滚。所以整体来看，我会把召回模型看成是一个系统工程，离线、在线、索引、策略得一起考虑，不能只看模型本身。一句话定位：召回的本质是向量检索，双塔是主流特征工程：ID和属性配合，行为序列压缩负采样：batch内、全局、hard negative混合，注意分布偏差向量索引：HNSW和IVF-PQ的选择，实时更新…

#Tiktok#负采样与向量索引#召回模型搭建

面试题·检索· 字节

RAG 工作流怎么应对时效衰减?

匹配口述回答：…删除加异步重建，同时维护base和delta双索引，查询时合并再按版本过滤。构建完不能直接上线，我会用一批固定query回放，对比Recall@K和延迟，通过才原子切换，不通过就回滚。说到版本控制，其实还有一个更细的坑：如果同一个实体有多个历史版本，检索时怎么保证召回的是最新且最相关的那一个？我倾向的做法是在文档元数据里加时间戳和版本号，检索时按时间降序取第一个，但如果有语义不匹配的情况，比如用户问的是“去年的政策”，那就得靠query意图识别来切换版本。所以整体来看，…

#字节#时间衰减检索#RAG 工作流程

面试题·检索· 字节

RAG 向量库怎么处理时间衰减?

匹配口述回答：…衰期长。但有个风险：λ 调太大，新但质量差的内容会冲上来，压制旧但精准的结果。所以上线前我会用历史 query 回放，调 λ 让 Recall@K 最优。另一个方案是动态时间窗口：先只搜最近 N 天的数据，如果召回不够再放宽。比如金融公告场景，财报发布后一周内只搜当季数据，没有结果再扩到全库。这样既保证时效，又不会完全丢掉长尾知识。实际落地，我更倾向把时间衰减和混合检索结合起来。检索时先用时间范围过滤，比如只取最近一年，再在结果里做衰减加权。这样既快又稳。还有一个细节是…

#字节#向量库时效性#RAG 工作流程

面试题·检索· 京东

向量数据库选型关键因素有哪些？

匹配口述回答：…标记后台异步重建。整体用base加delta双索引，查询时合并再按版本过滤。构建完不能直接上线，我会用一批固定query回放，对比Recall@K和延迟，通过才原子切换，不通过就回滚。规模更大还能做冷热分层。我会特别提醒一句：删除千万别原地动图索引，否则召回质量会崩。所以我的判断是，百万级先用pgvector或轻量方案快速验证，千万级以上选Milvus或Weaviate自研，追求极致省心就Pinecone或Zilliz Cloud。核心还是看你的场景、预算和运维能力。一句…

#京东#向量检索#向量数据库选型

面试题·检索· 字节

RAG 向量检索怎么高效召回?

匹配口述回答：…bedding模型。索引更新也有讲究，全量重建太慢，我会用双缓冲影子索引，新索引构建完后原子切换，切换前用固定query回放，对比Recall@K和延迟，不通过就回滚。说到反馈闭环，其实还有一个方向是[[Self-RAG]]，让模型在生成时自己判断是否需要检索，以及检索结果的可靠性。这能解决很多不必要的检索开销和[[幻觉]]问题，但需要更多训练数据和控制。最后收一下：我会把检索模块看成一个系统工程，不是单一算法能解决的。混合检索、分块策略、索引更新、反馈闭环，这几个环节…

#字节#向量数据库召回#RAG 向量检索

面试题·检索· 字节

Embedding + 向量数据库怎么搭?

匹配口述回答：…NSW 的 ef_search 设太小，召回率掉到 80% 以下。上线前我会特别关注两点：一是用一批固定 query 回放，对比 Recall@K 和延迟，不通过就回滚；二是做量化压缩，FP32降FP16可使裸向量每维存储减半，但总索引不一定减半，近邻排序与质量变化不能承诺1%以内。所以整体上，我不会把向量数据库看成银弹，它更适合语义匹配场景，比如客服问答、知识库检索。如果用户 query 很短或者依赖精确匹配，比如订单号、错误码，那传统关键词搜索反而更靠谱。我的取舍是：优…

#字节#Embedding向量检索#Embedding 向量数据库

面试题·检索· 小红书

中文知识库检索选型

匹配口述回答：…红书那种口语化、带表情、图文混排的内容，召回率会很难看。所以我上线前一定会做对比实验，拿一批真实query，人工标注相关文档，算 Recall@K。如果召回率不达标，我会考虑用对比学习微调，负样本采‘难负例’，比如同batch其他样本或者BM25高分但不相关的文档。还有一个点值得注意：向量的维度选择对检索精度和存储成本影响很大。比如你用768维还是384维，在召回率上差异可能不大，但索引大小和查询延迟能差好几倍。这个取舍在实际工程里特别关键，但不是所有场景都需要高维向量。 …

#小红书#稀疏与稠密检索#中文知识库检索选型

面试题·检索· 美团

Embedding 模型结构选型

匹配口述回答：…的通用模型，再根据业务数据微调。如果延迟敏感就降到 384，精度要求高就试 1024 加 MRL。落地时一定跑通全链路测试，关注 Recall@K 和延迟的 trade-off，别只看模型精度。一句话定位：Embedding模型选型本质是精度、速度、成本的三角权衡主流模型结构：SBERT双塔适合检索，SimCSE无监督有监督场景分化维度选择：384/768/1024对应不同场景，MRL新趋势打破固定维度落地风险：维度高不保证精度，索引结构、数据量、召回指标要一起看收…

#美团#向量检索#Embedding 模型结构选型