匹配正文：…10³ 轻量模型（双塔、向量检索）、用户兴趣粗粒度匹配粗排对召回结果快速预筛选，为精排减负 10³ → 10² 轻量精排模型或排序模型，平衡效率与效果精排精细打分，决定最终展示顺序 10² → 10¹ 复杂深度模型，特征交叉、实时性要求高为什么不能跳过？ 1. 计算复杂度不可承受精排模型通常涉及高维特征交叉、复杂网络结构，单次推理延迟10-100ms级对百万候选集全量打分：延迟从百毫秒级→百秒级，完全无法满足在线 serving 要求 2. 特征获取成本精排依…

#哔哩哔哩#评估与监控#推荐系统召回

面试题·检索· AIlab

RAG流程优化：三大层面策略

匹配正文：…检索系统级缓存机制：高频查询结果缓存，embedding结果缓存反馈闭环：用户点赞/点踩数据回流，微调embedding或重排序模型离线评估：定期用标准问答集测试召回率、答案相关性关键取舍手段成本收益场景重排序 +10-100ms延迟召回质量差、噪声大 HyDE +1次LLM调用用户query短、表述差多轮检索延迟×2-3 复杂推理、多跳问题微调embedding 高领域术语特殊、通用模型失效实际落地建议：先做好分块和重排序这两个高性价比优化，…

#AIlab#RAG流程优化#RAG 优化

面试题·检索· 字节

两阶段检索 vs 直接重排?

匹配正文：答案要点理解召回阶段的核心作用是快速缩小候选集（从百万级到千级）明确重排序模型计算成本高，无法直接作用于大规模语料能对比单阶段vs两阶段在延迟、精度、成本上的权衡提到实际工业中的常见配置（如向量召回+Cross-Encoder重排）核心原因：计算成本与精度的权衡为什么必须分两阶段？阶段处理规模模型特点核心目标召回（Retrieval）百万~亿级文档轻量、快速（如向量相似度、BM25）快速筛选，从海量中捞出Top-K候选重排序（Rerank）百~…

← 上一页第 2 / 2 页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#两阶段检索#RAG 重排序

面试题·检索· 虾皮

RAG 流程优化：检索与重排陷阱

匹配正文：…器：用ColBERT等模型计算查询-文档细粒度交互多任务学习：联合优化相关性、时效性、权威性反馈学习：根据用户点击行为在线优化排序模型 5. 生成与后处理核心问题：幻觉控制和答案质量优化策略：上下文压缩：用LLM提取检索文档的关键片段，减少噪声引用溯源：要求模型标注答案来源，便于事实核查拒绝回答：当检索置信度低时，触发"信息不足"回复系统级优化评估闭环：建立端到端评测（答案相关性、忠实度、上下文召回率）缓存策略：热门查询结果缓存，Embedding结果预计…

#虾皮#RAG全链路优化#RAG 流程优化

面试题·检索· 字节

RAG 系统实现：组件与流程

匹配正文：…向量数据库近似最近邻搜索 Milvus、Weaviate、pgvector 检索策略提升召回质量稠密+稀疏混合、多路召回重排序模型精排优化 Cross-Encoder、ColBERT 生成模型最终答案生成 GPT-4、Claude、本地LLM 进阶优化手段查询改写：用LLM扩展同义问法，解决语义gap 上下文压缩：检索后先用小模型过滤无关片段，减少噪声 Self-RAG：让模型判断是否需要检索，避免过度依赖落地注意点切分粒度：太细丢上下文，太粗检索不精准，建…

#字节#RAG系统实现#RAG 实现

面试题·检索· 网易

BM25+向量+Cross-Encoder 怎么组合?

匹配正文：…去重。RRF 只使用排名，避免直接比较不同系统的分数尺度，是稳健的无监督基线；若有可靠标注，也可对归一化分数做线性融合，或训练学习排序模型。RRF 不是任何场景都优于加权融合。重排前应保留来源、权限、时间和业务过滤条件。候选规模、RRF 参数和最终 Top-K 都应通过离线 Recall/nDCG、端到端问答质量、延迟和成本共同选择。数据变化时持续监控两路召回贡献、重排增益和失败查询，不能把任一固定组合称为所有 RAG 系统的“黄金标准”。图解 BM25+向量+Cross…

#网易有道#BM25向量Cross-Encoder#BM25 向量召回 Cross-Encoder

面试题·检索· 360

RAG 召回准确性：三大失败场景

匹配正文：…与生成阶段的评估差异掌握常用检索评估指标（Recall@K、MRR、NDCG）理解稠密检索与稀疏检索的优缺点及混合策略知道重排序模型的作用与典型实现能提出具体可落地的数据优化方案一、评估维度与指标检索阶段 vs 生成阶段检索评估：关注"找得准不准"，用Recall@K（答案是否在TopK）、MRR（首个相关文档排名）、NDCG（考虑相关度分级）端到端评估：用Answer Accuracy或RAGAS框架（context precision/recall, an…

#360#召回质量评估#RAG 召回优化

面试题·检索· 字节

RAG检索质量差：Embedding与Rerank调优

匹配正文：…关文档没进候选池 → 需优化向量表示或扩大检索范围精确问题：噪声文档混入 → 需过滤或重排序排序问题：相关文档得分低 → 需重排序模型或特征工程核心应对策略 1. 查询侧优化（Query Rewriting）意图澄清：用LLM扩展同义词、补全省略的主语伪文档生成：HyDE 用模型生成假设答案再检索查询分解：复杂问题拆成子查询分别检索 2. 检索侧增强混合检索：向量+关键词 BM25 融合，互补长尾和精确匹配多路召回：不同 embedding 模型、不同切分粒度…

#字节#检索故障诊断#检索质量优化

面试题·项目与经历· OPPO

ML项目流程：特征工程到评估

匹配口述回答：…称不决定它处于召回还是排序，系统位置由目标、特征、候选规模和延迟共同决定。可继续追问某个特征如何防止时间泄漏，或比较树模型与深度排序模型的受控基线。

#特征工程#模型选型#超参数调优

面试题·模型架构· 海尔

Self-Attention 怎么计算 QKV?

匹配追问：…复杂度和空间复杂度是多少？如何优化？多头注意力中"多头"的设计动机是什么，各头学到什么不同？场景切入假设你在做一个电商搜索的排序模型，用户搜'苹果手机'，你希望模型能自动关注商品标题里的'苹果'和'手机'这两个词，同时忽略'原装正品'这种修饰。这种token之间的关联度，底层是怎么算出来的？层层追问 Transformer里每个token是怎么跟其他token交互的？……那它怎么知道该关注谁？这个关注的程度具体怎么量化？……对，从输入向量到得到权重分布，中间经过了哪些…

#Self-Attention#Transformer#注意力机制

面试题·Agent· 淘天

传统 RAG 有哪些痛点?

匹配口述回答：…其实挺明确的。检索噪声可以用[[重排]]或者多路召回融合来解决，比如先用[[BM25]]和向量做[[混合检索]]，再让一个更精细的排序模型过滤一遍。上下文冗余可以做上下文压缩，或者用摘要增强，把多个chunk的关键信息提炼成一个精炼版本。知识更新延迟就得靠实时索引管道，或者干脆让模型直接调用API获取动态数据。不过说实话，这些优化都是打补丁。真正要想从根本上解决问题，得跳出'检索-拼接-生成'这个线性范式。比如现在比较热的 [[Agentic RAG]]，让模型自己决定什么…

#淘天#Agent#RAG 痛点

面试题·模型微调· 高德

Agent 记忆怎么用向量库?

匹配口述回答：…是否包含用户明确确认的信息，比如用户说‘对的’‘没错’；是否在后续对话被引用；是否跨会话反复提到，这往往是长期偏好。这里有个坑，重排序模型不能太重，否则延迟受不了，我一般用[[Cross-Encoder]]精排前10个候选，或者训练一个小BERT做二分类。其实还有一个挑战是记忆的删除和修改。向量数据库的图索引结构，原地删除非常危险，召回质量会崩。我会用软删除加异步重建，查询时用双缓冲影子索引，构建完用固定query回放对比Recall@K，通过才原子切换。最后说落地风险。…

#高德#Agent#向量检索

面试题·模型微调· 美团

向量检索怎么保准又保真?

匹配口述回答：…dcase 分析机制，比如用户搜‘充电宝’返回了‘充电器’，这种案例回流回来，可能发现是 Embedding 模型没区分好，或者重排序模型没学到这个模式，然后针对性优化。所以整体上，我更倾向于把向量检索系统看作一个组合工程，而不是单个模型的比拼。混合检索搭骨架，重排序做精调，查询改写做入口优化，再加上持续的评估迭代，这样才能在真实业务里跑得稳。本质是平衡语义理解与精确匹配混合检索：向量+关键词，各有适用场景重排序：从粗到精，用交互模型修正查询改写：让用户输入更匹配索…

#美团#向量检索准确性#向量检索相关性

面试题·模型微调· 字节

领域RAG应用链路怎么搭?

匹配口述回答：…coder]] [[重排序]]，比如 bge-reranker，把相关性分数算一遍，取 Top-K。这里有个坑：如果领域数据少，重排序模型可能过拟合，所以我会用通用模型再加少量领域数据微调。生成模块。Prompt 设计是基础，系统角色要固化，比如“你是资深法律顾问，基于以下参考资料回答，不确定就说不知道”。上下文按相关性排序，标注来源编号，强制要求引用，比如“依据[1]第X条”。这样能减少 [[Hallucination]]。还有上下文压缩，比如用 LLMLingua 去…

#字节#领域 RAG#RAG应用搭建

面试题·RAG· 小红书

新用户冷启动：生成式推荐与Embedding

匹配口述回答：…式召回加传统模型精排的混合架构。生成式负责快速拉出候选集，但它的排序不够精准，所以后面接一个[[Bi-Encoder]]或者轻量的排序模型，把候选[[重排]]一下。这个架构的优点是冷启动阶段效果好，但代价是多了生成这一步，延迟会高。如果对实时性要求特别高，比如首页推荐必须在50毫秒内返回，那生成式召回可能撑不住，得换成更轻量的策略，比如直接基于画像的向量检索。我最近在思考一个问题：生成式推荐在冷启动阶段表现不错，但用户行为积累多了以后，怎么平滑过渡到传统协同过滤？直接切换会…

#小红书#新用户冷启动#生成式推荐

面试题·RAG· 美团

动态增量更新怎么防检索偏差?

匹配口述回答：…重嵌入，等新文档积累到一定量再全量重算。这样既保证了实时召回新政策，又避免了频繁重算。这里有个坑，就是版本隔离虽然好，但前提是重排序模型要够强，如果Rerank模型不行，多路召回的结果可能反而更差。另外，渐进式重嵌入的阈值设多少很关键，设太小频繁触发全量计算，设太大新旧分布差异过大。我上线时会特别关注embedding空间中心偏移距离和查询-文档余弦分布的KL散度，一旦偏离超过阈值就告警。所以我的倾向是，对于大部分业务场景，版本隔离加渐进式重嵌入是更稳妥的选择。版本隔离保…

#美团#增量更新检索偏差#RAG 知识库更新

面试题·检索· 小红书

RAG 检索偏差怎么系统性解决?

匹配口述回答：…级联生成控制：置信度门控和证据验证，核心是让模型知道不知道落地的取舍：我更倾向把重排序作为标配，生成端做最后兜底约4分钟重排序模型的领域适配是精度天花板的关键，需要做领域微调面试官可能追问：领域数据怎么构造？微调的具体做法？或者比较不同重排模型的优劣。

#小红书#美团#重排与优化

面试题·检索· 字节

两阶段 vs 端到端怎么选?

匹配口述回答：…回退款规则和订单记录，再让模型基于这些材料生成，这样答案有据可查。而且我可以随时调优中间环节，召回不够好就换检索策略，排序不准就调排序模型，不用动生成那一步。但代价也很直接：延迟高，因为多跑了一步检索加排序；还有信息损失，召回阶段丢掉的文档，精排和生成再也看不见了。另外系统复杂度会上去，索引维护、版本对齐都是隐性成本。反过来，端到端生成就是直接把问题丢给模型，让它凭知识生成答案。这种方式的优势是简洁、延迟低，而且如果基座模型够强，理论上上限比两阶段高，因为模型能利用训练中学…

#字节#两阶段检索与端到端生成#两阶段检索

面试题·检索· 快手

LLM怎么融入推荐系统？特征提取与召回

匹配口述回答：…指标和线上业务指标不一致的问题。比如，LLM生成的推荐理由让用户点击更多，但实际购买转化没有提升，这时候怎么判断是LLM的问题还是排序模型的问题？这个点挺有意思。最后，我的判断是，当前ROI最高的落地点是特征增强和冷启动场景，而不是端到端替换。像快手这种短视频场景，LLM在理解视频内容、生成解释性推荐理由上价值最大。我更倾向把它当作一个增强模块，而不是核心排序模型。一句话定位：LLM不是替代推荐，而是补位传统模型做不好或做不了的环节边界划分：特征提取最成熟，召回探索中，…

#快手#LLM推荐系统#LLM 推荐系统