匹配正文：…融合，互补长尾和精确匹配多路召回：不同 embedding 模型、不同切分粒度并行召回粗排→精排：先用轻量模型快速筛选，再用 Cross-Encoder 精排 3. 文档侧处理动态上下文压缩：用 LLM 提取关键片段，去除冗余元信息过滤：按时间、来源等标签预过滤索引优化：调整 chunk 大小和重叠策略，关键信息不截断 4. 重排序与过滤 Cross-Encoder 精排：比双塔模型准，但计算重置信度过滤：设置相似度阈值，低置信触发兜底或拒答工程权衡方案延迟…

#字节#检索故障诊断#检索质量优化

面试题·检索· 字节

RAG 技术实现怎么落地?

匹配正文：…线） Query改写：扩展、澄清用户问题，提升召回率相似度计算：余弦相似度/IP距离，Top-K召回重排序（Rerank）：用Cross-Encoder精排，过滤低质片段 3. 生成阶段上下文组装：检索结果 + 用户Query → 构造Prompt 大模型生成：基于检索上下文回答，可引用来源典型应用场景场景说明企业知识问答内部文档、规章制度，解决大模型不知道私域知识的问题客服系统基于产品手册实时检索，避免幻觉，答案可溯源研报/法律分析长文档摘要+精准定…

#字节#RAG应用场景#RAG 技术实现

面经·项目面试

Reranker 的上限，藏在候选集里

匹配正文：…可能在粗召回中位于截断位置之后。此时先查它为什么没进入名单，缩小最终K或更换重排器都不会把D补进来。一份检索设计资料将快速召回与Cross-Encoder重排分成前后两步，也提出扩大候选供重排处理。这个设计给了后者选择空间，同时提醒我们：减少候选量是在改入口范围，不能只把它记为一项省时优化。同样四条候选，64字符窗口裁掉尾句第二种状态把N扩大到四，D终于在名单里了。但名单里有D，还不等于Reranker看到了D的完整信息。标题、问题和正文如何拼接，长度上限作用在哪一侧，…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#RAG#Rerank#候选召回

面试题·Agent· 小红书

生成式推荐系统有哪些改进方向？

匹配口述回答：…G 的检索质量，如果召回的内容不相关，生成出来的推荐理由就是胡扯，反而伤害体验。所以上线前我会特别关注检索的重排效果，用 [[Cross-Encoder]] 把 Top-K 再精排一遍。另一个是延迟，Agent 多轮对话加 RAG 检索，整体响应时间很容易超标，得做 [[KV Cache]] 和投机采样来优化。还有一个点值得深入，就是生成的推荐理由只能算待核验数据，不能天然当高质量样本；需验证依据与反馈，再研究是否适合训练。Self-RAG需要专门的检索与反思训练机制，…

#小红书#Agent#生成式推荐系统

面试题·Agent· 阿里

RAG+Agent 延迟与准确率成因

匹配口述回答：…”，Agent先搜满减政策，再搜订单信息，把两段拼起来，但模型可能没理解满减和订单的关系。我会在检索后加一个[[重排序]]，用[[Cross-Encoder]]打分，只保留和当前子目标最相关的片段。最严重的是决策漂移，早期检索错误导致后面全错。比如第一次搜错了商品价格，后面所有计算都基于错误价格。我的做法是设一个检索置信度阈值，分太低就触发“反思”模式，让Agent重新规划。比如用[[Self-RAG]]，让模型自己判断检索结果是否可靠，不可靠就重来。从架构层面看，我会把…

#阿里云#Agent#RAG Agent 延迟优化

面试题·Agent· 字节

Agent 长期记忆架构与更新策略

匹配口述回答：…越久越不重要。所以我会做多路召回：向量相似度、时间衰减、主题标签过滤，三条路一起走，然后拿一个轻量模型做 [[重排]]，比如 [[Cross-Encoder]] 打分，取Top-K。这里有个坑：如果召回太多，重排成本会很高，所以我会先粗筛，控制候选数在几十条以内。更新策略分实时和定期。实时更新：每轮对话后，用LLM或者规则提取关键信息，增量写到短期记忆，异步更新长期记忆。定期总结：对话结束后触发一个总结任务，生成会话摘要；周期性比如每周，聚合摘要更新用户画像。冲突处理上，我…

#字节#百度#Agent

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配口述回答：…ch，把向量相似度和[[BM25]]关键词分数加权融合，比如alpha=0.7，兼顾语义和精确匹配。然后对top 100候选用[[Cross-Encoder]]重排，比如bge-reranker-base，精排到top 10。这样延迟不会太高，但召回和精度都稳。这里有个风险：如果知识库里有大量相似文档，比如不同版本的合同，重排后可能还是混淆，我会加元数据过滤，比如版本号、日期，先缩小候选集。还有一个点是，当知识库更新频繁时，增量索引的实时性和一致性很难兼顾。我上面提到用双缓…

#字节#文档处理#向量检索

面试题·文档处理· 百度

常用分块方法有哪些?

匹配口述回答：…一个方向值得深挖，就是分块策略怎么和 [[Rerank]] 配合。比如语义分块切出来的块，有时边界还是不够准，如果后面接一个 [[Cross-Encoder]] 重排，就能把切得不好的块里真正相关的片段捞出来。但这就引出另一个问题，重排的延迟怎么控制，对吧？所以总的来说，我更倾向把分块看成一套可配置的管道，而不是一个固定的算法。先根据文档类型选主策略，再用重叠和重排兜底，最后用线上指标比如 Recall@K 去反推分块参数合不合理。定位：分块本质是平衡语义完整和检索粒度 …

#百度#文本分块策略#RAG chunking

面试题·评估· 美团

RAG 缓解幻觉的机制

匹配口述回答：…，比如医疗场景用专门的医学 Embedding 模型；二是要加 [[Rerank]] 这一步，因为向量相似不等于语义相关，用 [[Cross-Encoder]] 精排能过滤掉很多噪声；三是文档切分策略，固定长度切分经常把语义切碎，我倾向按语义段落或者用 [[Sliding Window]] 加重叠来切。这里有个常见的坑：很多人以为 RAG 跟微调是二选一，其实不是。微调适合让模型学固定格式或风格，比如客服话术；RAG 适合知识频繁更新的场景，比如政策文档。真正落地常常是 R…

#美团#事实锚定#RAG 缓解幻觉的机制

面试题·评估· 字节

RAG 评测优化闭环

匹配口述回答：…得有。再一个就是[[分块]]策略，按语义切分比固定窗口好，但遇到表格或代码块，就得保留结构完整性。另外[[重排]]也很关键，用[[Cross-Encoder]]精排能显著提升top-K质量。生成侧，我倾向于先做提示工程，比如强制要求引用来源，格式像“根据文档[3]”，这样幻觉率能降不少。如果还不够，再考虑[[SFT]]微调，用检索到的上下文做监督数据训练模型更忠实。后处理加个事实核查模块，对低置信度答案直接拒答或二次检索。协同优化是进阶玩法。比如REPLUG，让生成模型给…

#字节#评估与监控#RAG 评测优化闭环

面试题·评估· 字节

医疗法律RAG：评估陷阱

匹配口述回答：…，我会做一个查询改写模块，把用户口语化的输入翻译成专业术语，比如“心跳快”转成“心动过速”。[[重排序]]这一步也很关键，用 [[Cross-Encoder]] 对初筛结果精排，把最相关的文档顶到前面。生成模型层，基座我倾向选一个在领域上做过预训练的，比如医学的Huatuo或法律的LawGPT，如果不够成熟，就用通用模型加领域 [[SFT]] 。关键设计是强制模型输出引用来源，比如“根据《指南》第3章第2节”，这样专家能追溯验证，也方便用户判断可信度。另外，没有可靠来源的问…

#字节#专业领域 RAG#RAG 系统设计

面试题·评估· 百度

RAG 架构怎么工作?

匹配口述回答：…不只用向量，还结合[[BM25]]这类关键词匹配，让两种方法互补。再一个是加[[重排]]，召回Top-K之后用更精细的模型比如[[Cross-Encoder]]重新打分，把真正相关的顶上来。还有就是置信度过滤，分太低的直接扔掉，宁可少给信息也别给错的。还有一个常被问到的问题是RAG和微调的边界。我的看法是，RAG适合知识更新快、需要溯源的场景，比如客服的退款政策、企业SOP；微调适合让模型学会特定风格或推理模式，比如医疗诊断的[[思维链]]。实际项目里我经常两者一起用，微调…

#百度#评估与监控#RAG 架构

面试题·模型微调· 百度

Embedding 模型选型考虑哪些因素?

匹配口述回答：…dding模型和[[Rerank]]模型怎么配合。很多人以为embedding效果好就万事大吉，其实embedding做初筛，[[Cross-Encoder]]做精排，两者结合才能达到生产级精度。这个配合的阈值怎么设、延迟怎么优化，是另一个值得深挖的问题。所以我的选型逻辑是：先定场景，再卡资源，然后选一个基线模型快速试错，最后用业务指标验证。如果效果不够，优先考虑领域微调而不是换更大的模型。本质是业务场景与成本效率的权衡场景决定选型方向维度、长度、多语言等核心参数取舍…

#百度#向量检索#Embedding 模型选型

面试题·知识图谱· 淘天

RAG 系统痛点怎么破?

匹配口述回答：…dding]]经常搞不定，加上[[Chunk]]切分把语义切碎了。改进我一般两条路一起走：一条是加[[Rerank]]，比如用[[Cross-Encoder]]二次精排，把噪声压下去；另一条是[[Hybrid Search]]，把[[BM25]]和向量检索结合，关键词匹配和语义匹配互补。这里有个坑：重排模型不能太慢，否则延迟受不了，上线前一定要压测P99。还有，如果业务文档本身质量差，比如全是[[OCR]]错字，那重排也救不了，得先清洗数据。再一个，上下文稀释。模型上下文窗…

#淘天#知识图谱#RAG 痛点

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配口述回答：…运费”扩写成“退货流程中运费承担规则”，或者用 HyDE 先生成一个假设文档再去匹配。召回后还要做 [[Rerank]]，用 [[Cross-Encoder]] 精排一下，把最相关的顶上去。增强生成阶段，就是把检索结果拼到 prompt 里，让 LLM 基于证据回答。这里有个常见失败场景：如果检索到的文档太长或者不相关，模型可能忽略正确信息，反而产生 [[Hallucination]]。所以上线前我会特别关注检索的召回率，先拿一批测试 query 跑 Recall@K，确保…

#字节#检索生成流程#RAG 技术原理

面试题·知识图谱· 海尔

数据/架构/推理/工具怎么选?

匹配口述回答：…期间满减政策天天变。但 RAG 也不是万能药，检索质量差的话，上下文喂错了反而放大幻觉。所以落地时我通常会配合[[重排]]，用[[Cross-Encoder]]把检索结果再精排一遍，把不相关的滤掉。推理策略层面，这里有个简单但有效的方法叫[[Self-Consistency]]。就是让模型对同一个问题生成多条回答，比如温度设0.7跑五次，然后看哪些答案互相一致，不一致的说明可能有问题。还有一个更高级的变体叫[[Chain-of-Verification]]，让模型先粗答一轮…

#海尔#幻觉治理#大模型幻觉缓解

面试题·多模态· 淘天

多模态 RAG 架构设计

匹配口述回答：…外，有一个方向我最近在关注，就是多模态RAG里的重排序怎么做。现在大部分方案还是用简单的加权融合，但其实可以用一个小的跨模态 [[Cross-Encoder]] 做二次排序，效果提升明显，不过会增加延迟。这块我还没完全想好怎么平衡，面试官您怎么看？所以整体上，我更倾向于把多模态RAG看成一套组合拳，不是单一框架包打天下。文档智能用ColPali，电商搜索用Qwen-VL-RAG加LlamaIndex管线，具体选型得看数据、成本、效果要求。最关键的是，永远别指望一个方案解决所…

#淘天#多模态#多模态 RAG 架构设计

面试题·多模态· 阿里

Multi-modal RAG 是什么?

匹配口述回答：…码。说到检索，其实还有一个延伸问题：多模态检索的排序怎么做？图文混排时，单纯靠向量距离不够，通常需要二次[[重排]]，比如用[[Cross-Encoder]]对图文对做更精细的匹配。但重排的计算成本很高，所以要做级联策略。最后说说我的判断。多模态RAG的落地前提是数据质量和索引成本可控。如果业务里多模态数据量巨大，比如上亿张图，索引构建和更新就是个大工程。我会更倾向于先用纯文本RAG兜底，对多模态查询做降级处理，比如用图片的文本描述替代原图检索。等基础设施成熟了再逐步上线…

#阿里#多模态#Multi-modal RAG

面试题·RAG· 字节

垂直领域 RAG 完整架构

匹配口述回答：…king]] 做实体链接后走 [[Knowledge Graph]] 子图遍历。三条路并行，召回率才能上去。精排阶段，我会用 [[Cross-Encoder]] 做领域微调，再加时效性和权威性加权。举个例子，医疗问诊里，用户说“头痛三天”，向量召回可能找到一堆偏头痛病例，但图谱召回能关联到“高血压危象”这种急症，精排时权威性高的指南会排前面。这里有个坑：纯向量检索在专业术语上容易跑偏，比如“心肌梗死”和“心梗”语义相似但和“胸痛”的向量距离可能更近，所以稀疏向量和图谱一定要补…

#字节#垂直领域RAG#垂直领域 RAG 完整架构

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配口述回答：…5]] 关键词检索结合起来，因为向量擅长语义匹配但可能漏掉精确词，关键词正好互补；二是 [[重排]]，初检索召回几百条，再用 [[Cross-Encoder]] 精排一遍，把最相关的前几条送进生成，能显著减少噪声。说个真实业务场景吧，比如电商客服的退款政策问答。用户问“七天无理由退货的运费谁出”，如果只用LLM微调，模型可能记错或者把旧政策当答案。用RAG的话，我把最新版的售后规则文档切成块建索引，每次检索到对应条款，模型直接引用条款回答，准确率能到95%以上，而且政策更新…

#字节#外部知识检索#RAG 原理

面试题·检索· 高德

向量数据库怎么支撑 Agent 记忆?

匹配口述回答：…一般走多阶段pipeline。先用[[HNSW]]做粗排，召回Top 100，然后加元数据过滤，比如时间范围、会话ID，最后用[[Cross-Encoder]]做精排，取Top 5。但只靠向量不够，我会结合关键词检索，也就是[[Hybrid Search]]，用[[BM25]]兜底，因为有些专有名词比如订单号、错误码，语义相近但词面不同，向量可能漏掉。举个例子，用户问'满减政策'，向量能召回'满200减30'，但关键词能召回PDF里的'满减'条款，两者互补。落地时我最关注两…

#高德#重排与优化#文档处理

面试题·检索· 字节

RAG检索方法如何优化？

匹配口述回答：…向量做量化压缩，内存能降80%，精度损失可控。流程层做两阶段检索，先用[[Bi-Encoder]]快速召回Top-100，再用[[Cross-Encoder]]精排到Top-10，这样既快又准。系统层加结果缓存，高频query直接命中，但要注意缓存失效策略，比如文档更新后要清掉相关缓存，否则用户拿到的是旧数据。这里有个延伸点：很多时候检索效果不好，不是方法选错了，而是文档[[分块]]粒度没调好。比如一份采购合同，如果整块嵌入，用户问“违约金比例”，向量可能被合同主旨带偏；但…

#字节#RAG检索选型#RAG 检索方法

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配口述回答：…精确数字不敏感，但BM25能直接命中。说白了，没有哪种检索方式能覆盖所有场景，落地一定是混合的。然后[[重排序]]用领域微调的[[Cross-Encoder]]，比如法律[[ColBERT]]，同时加权时效性和地域匹配。举个例子，用户问“北京地区工伤认定流程”，我会优先排北京的法规，新法在前。生成优化这块，核心是引用溯源和[[幻觉]]检测。我会在Prompt里强制要求引用格式，比如[《劳动法》第X条]，生成内容必须关联检索片段，用户能点击跳转原文。同时设置信度阈值，检索分数…

#字节#专业领域RAG#领域 RAG 架构

面试题·检索· 字节

RAG 为何需要重排序?

匹配口述回答：…得准”，两者互补。还有个延伸点：如果业务对实时性要求很高，比如金融实时风控，LLM重排序的延迟可能成为瓶颈。这时候我会考虑用[[Cross-Encoder]]做轻量级重排，或者干脆把重排序和生成合并，用[[Self-RAG]]让模型自己决定要不要搜外部知识。总的来说，我不会把RAG看成简单的“搜+读”，而是看作一个资源分配问题。向量检索做第一轮过滤，LLM做最终决策，中间用重排序或者生成来弥合相似度和相关性的鸿沟。定位：RAG为什么需要重排序边界：向量检索和LLM各自…

#字节#向量召回与重排#RAG 重排序