匹配正文：… Embedding模型 → 查询向量 q ANN索引快速召回Top-K候选（如HNSW的ef_search参数控制深度）可选：重排序（Cross-Encoder精排）提升精度四、生产优化要点混合检索：向量相似度 + BM25关键词召回，融合排序（RRF算法）量化压缩：裸向量每维FP32/FP16/INT8为4/2/1字节，总索引另计元数据与结构；INT8需校准，目标Recall/MRR与长尾质量变化要实测，不承诺固定<2%。增量更新：避免全量重建索引，使用HNSW…

#字节#Embedding向量检索#Embedding 向量数据库

面试题·检索· 字节

RAG 技术实现怎么落地?

匹配正文：…合检索 2. 检索阶段（在线） Query改写：扩展、澄清用户问题，提升召回率相似度计算：余弦相似度/IP距离，Top-K召回重排序（Rerank）：用Cross-Encoder精排，过滤低质片段 3. 生成阶段上下文组装：检索结果 + 用户Query → 构造Prompt 大模型生成：基于检索上下文回答，可引用来源典型应用场景场景说明企业知识问答内部文档、规章制度，解决大模型不知道私域知识的问题客服系统基于产品手册实时检索，避免幻觉，答案可溯源研报/法…

#字节#RAG应用场景#RAG 技术实现

面试题·Agent· 小红书

生成式推荐系统有哪些改进方向？

…得注意。一个是 RAG 的检索质量，如果召回的内容不相关，生成出来的推荐理由就是胡扯，反而伤害体验。所以上线前我会特别关注检索的重排效果，用 [[Cross-Encoder]] 把 Top-K 再精排一遍。另一个是延迟，Agent 多轮对话加 RAG 检索，整体响应时间很容易超标，得做 [[KV Cache]] 和投机采样来优化。还有一个点值得深入，就是生成的推荐理由只能算待核验数据，不能天然当高质量样本；需验证依据与反馈，再研究是否适合训练。Self-RAG需要专门的…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配口述回答：

#小红书#Agent#生成式推荐系统

面试题·Agent· 阿里

RAG+Agent 延迟与准确率成因

匹配口述回答：…品，但订单显示原价”，Agent先搜满减政策，再搜订单信息，把两段拼起来，但模型可能没理解满减和订单的关系。我会在检索后加一个[[重排序]]，用[[Cross-Encoder]]打分，只保留和当前子目标最相关的片段。最严重的是决策漂移，早期检索错误导致后面全错。比如第一次搜错了商品价格，后面所有计算都基于错误价格。我的做法是设一个检索置信度阈值，分太低就触发“反思”模式，让Agent重新规划。比如用[[Self-RAG]]，让模型自己判断检索结果是否可靠，不可靠就重来。从…

#阿里云#Agent#RAG Agent 延迟优化

面试题·Agent· 字节

Agent 长期记忆架构与更新策略

匹配口述回答：…户话题可能漂移，时间越久越不重要。所以我会做多路召回：向量相似度、时间衰减、主题标签过滤，三条路一起走，然后拿一个轻量模型做 [[重排]]，比如 [[Cross-Encoder]] 打分，取Top-K。这里有个坑：如果召回太多，重排成本会很高，所以我会先粗筛，控制候选数在几十条以内。更新策略分实时和定期。实时更新：每轮对话后，用LLM或者规则提取关键信息，增量写到短期记忆，异步更新长期记忆。定期总结：对话结束后触发一个总结任务，生成会话摘要；周期性比如每周，聚合摘要更新用户…

#字节#百度#Agent

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配口述回答：…再按版本过滤。上线前会用固定query回放，对比Recall@K和延迟，通过才原子切换。检索阶段，我通常用[[混合检索]]加[[重排]]两步走。先用Hybrid Search，把向量相似度和[[BM25]]关键词分数加权融合，比如alpha=0.7，兼顾语义和精确匹配。然后对top 100候选用[[Cross-Encoder]]重排，比如bge-reranker-base，精排到top 10。这样延迟不会太高，但召回和精度都稳。这里有个风险：如果知识库里有大量相似文档，比如…

#字节#文档处理#向量检索

面试题·文档处理· 百度

RAG ANN 索引优化

匹配口述回答：…，正确做法是扫参画 Pareto 曲线，而不是套固定参数。为了补回 ANN 的近似损失，可以先取得更大的候选集，再用原始向量或 cross-encoder 重排。Embedding、距离函数、归一化和文档分块也会影响端到端召回，不能把所有问题都归因于索引。最后还要验证增量写入、删除、分片和过滤。高选择性过滤如果处理顺序不当，会同时伤害召回和延迟。索引版本化、影子构建和原子切换可以降低更新风险。我还会回放生产查询和过滤条件，观察删除墓碑累积后召回是否下降，再用双索引灰度切换…

#百度#文档处理#RAG ANN 索引优化

面试题·评估· 美团

RAG 缓解幻觉的机制

匹配口述回答：…别关注几个点：一是 [[Embedding]] 模型要领域适配，比如医疗场景用专门的医学 Embedding 模型；二是要加 [[Rerank]] 这一步，因为向量相似不等于语义相关，用 [[Cross-Encoder]] 精排能过滤掉很多噪声；三是文档切分策略，固定长度切分经常把语义切碎，我倾向按语义段落或者用 [[Sliding Window]] 加重叠来切。这里有个常见的坑：很多人以为 RAG 跟微调是二选一，其实不是。微调适合让模型学固定格式或风格，比如客服话术；R…

#美团#事实锚定#RAG 缓解幻觉的机制

面试题·评估· 字节

RAG 评测优化闭环

匹配口述回答：…须靠关键词，所以两条路都得有。再一个就是[[分块]]策略，按语义切分比固定窗口好，但遇到表格或代码块，就得保留结构完整性。另外[[重排]]也很关键，用[[Cross-Encoder]]精排能显著提升top-K质量。生成侧，我倾向于先做提示工程，比如强制要求引用来源，格式像“根据文档[3]”，这样幻觉率能降不少。如果还不够，再考虑[[SFT]]微调，用检索到的上下文做监督数据训练模型更忠实。后处理加个事实核查模块，对低置信度答案直接拒答或二次检索。协同优化是进阶玩法。比如R…

#字节#评估与监控#RAG 评测优化闭环

面试题·评估· 字节

医疗法律RAG：评估陷阱

匹配口述回答：…者抓语义相似，后者保精确匹配。另外，我会做一个查询改写模块，把用户口语化的输入翻译成专业术语，比如“心跳快”转成“心动过速”。[[重排序]]这一步也很关键，用 [[Cross-Encoder]] 对初筛结果精排，把最相关的文档顶到前面。生成模型层，基座我倾向选一个在领域上做过预训练的，比如医学的Huatuo或法律的LawGPT，如果不够成熟，就用通用模型加领域 [[SFT]] 。关键设计是强制模型输出引用来源，比如“根据《指南》第3章第2节”，这样专家能追溯验证，也方便用户…

#字节#专业领域 RAG#RAG 系统设计

面试题·知识图谱· 淘天

RAG 系统痛点怎么破?

匹配口述回答：…性，尤其领域术语[[Embedding]]经常搞不定，加上[[Chunk]]切分把语义切碎了。改进我一般两条路一起走：一条是加[[Rerank]]，比如用[[Cross-Encoder]]二次精排，把噪声压下去；另一条是[[Hybrid Search]]，把[[BM25]]和向量检索结合，关键词匹配和语义匹配互补。这里有个坑：重排模型不能太慢，否则延迟受不了，上线前一定要压测P99。还有，如果业务文档本身质量差，比如全是[[OCR]]错字，那重排也救不了，得先清洗数据。再一…

#淘天#知识图谱#RAG 痛点

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配口述回答：…层查询改写，比如把“怎么退运费”扩写成“退货流程中运费承担规则”，或者用 HyDE 先生成一个假设文档再去匹配。召回后还要做 [[Rerank]]，用 [[Cross-Encoder]] 精排一下，把最相关的顶上去。增强生成阶段，就是把检索结果拼到 prompt 里，让 LLM 基于证据回答。这里有个常见失败场景：如果检索到的文档太长或者不相关，模型可能忽略正确信息，反而产生 [[Hallucination]]。所以上线前我会特别关注检索的召回率，先拿一批测试 query …

#字节#检索生成流程#RAG 技术原理

面试题·多模态· 淘天

多模态 RAG 架构设计

匹配口述回答：…id Search]] 把向量和关键词结合起来，避免纯向量检索在冷门词上翻车。另外，有一个方向我最近在关注，就是多模态RAG里的重排序怎么做。现在大部分方案还是用简单的加权融合，但其实可以用一个小的跨模态 [[Cross-Encoder]] 做二次排序，效果提升明显，不过会增加延迟。这块我还没完全想好怎么平衡，面试官您怎么看？所以整体上，我更倾向于把多模态RAG看成一套组合拳，不是单一框架包打天下。文档智能用ColPali，电商搜索用Qwen-VL-RAG加LlamaIn…

#淘天#多模态#多模态 RAG 架构设计

面试题·多模态· 阿里

Multi-modal RAG 是什么?

匹配口述回答：…，先定位主体区域再编码。说到检索，其实还有一个延伸问题：多模态检索的排序怎么做？图文混排时，单纯靠向量距离不够，通常需要二次[[重排]]，比如用[[Cross-Encoder]]对图文对做更精细的匹配。但重排的计算成本很高，所以要做级联策略。最后说说我的判断。多模态RAG的落地前提是数据质量和索引成本可控。如果业务里多模态数据量巨大，比如上亿张图，索引构建和更新就是个大工程。我会更倾向于先用纯文本RAG兜底，对多模态查询做降级处理，比如用图片的文本描述替代原图检索。等基础…

#阿里#多模态#Multi-modal RAG

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配口述回答：…arch]]，把向量检索和 [[BM25]] 关键词检索结合起来，因为向量擅长语义匹配但可能漏掉精确词，关键词正好互补；二是 [[重排]]，初检索召回几百条，再用 [[Cross-Encoder]] 精排一遍，把最相关的前几条送进生成，能显著减少噪声。说个真实业务场景吧，比如电商客服的退款政策问答。用户问“七天无理由退货的运费谁出”，如果只用LLM微调，模型可能记错或者把旧政策当答案。用RAG的话，我把最新版的售后规则文档切成块建索引，每次检索到对应条款，模型直接引用条款回…

#字节#外部知识检索#RAG 原理

面试题·检索· 字节

RAG检索方法如何优化？

匹配口述回答：…ybrid Search兜底。延迟上，在线场景必须压到100毫秒以内，那就用[[HNSW]]索引加粗排截断，只取Top-200再过重排；离线分析可以接受[[IVF-PQ]]的精度损失来省内存。性能优化方面，我一般从索引、流程、系统三层下手。索引层用[[Product Quantization]]对向量做量化压缩，内存能降80%，精度损失可控。流程层做两阶段检索，先用[[Bi-Encoder]]快速召回Top-100，再用[[Cross-Encoder]]精排到Top-10，…

#字节#RAG检索选型#RAG 检索方法

面试题·检索· 字节

领域 RAG 架构如何控幻觉?

匹配口述回答：…“第X条”，向量模型对这种精确数字不敏感，但BM25能直接命中。说白了，没有哪种检索方式能覆盖所有场景，落地一定是混合的。然后[[重排序]]用领域微调的[[Cross-Encoder]]，比如法律[[ColBERT]]，同时加权时效性和地域匹配。举个例子，用户问“北京地区工伤认定流程”，我会优先排北京的法规，新法在前。生成优化这块，核心是引用溯源和[[幻觉]]检测。我会在Prompt里强制要求引用格式，比如[《劳动法》第X条]，生成内容必须关联检索片段，用户能点击跳转原文。…

#字节#专业领域RAG#领域 RAG 架构

面试题·检索· 字节

RAG Retriever 工作机制详解

匹配口述回答：…得按相关性排序，截到窗口能装下为止。然后看置信度过滤，相似度低于某个阈值的文档直接扔掉，不然噪声会让模型胡说八道。另外还要看 [[Rerank]]，就是加一个 [[Cross-Encoder]] 对检索结果重新排序，因为双塔的分数不一定准，重排能显著提升 top 文档的质量。本质上看，RAG 让模型从纯参数记忆变成了参数加非参数记忆，也就是把知识外挂到数据库里。这样回答就能溯源，[[幻觉]]也少很多。不过这里有个有意思的点，就是检索结果的质量并不完全由召回率决定。如果检…

#字节#Retriever#RAG Retriever

面试题·检索· 美团

Embedding 相似性检索原理与索引构建

匹配口述回答：…响，适合已经归一化的向量。欧氏距离则适合需要绝对位置的场景，比如地理坐标。不过我会提醒一句：相似度计算不是孤立的，它要和后面的[[重排序]]配合。比如检索出Top-K后，我通常会用[[Cross-Encoder]]做一次精细重排，这时候相似度度量就变成模型内部的交互打分，不再依赖余弦或点积。完整流程是这样的：用户输入query，经过embedding模型变成向量，然后在ANN索引里检索，拿到Top-K候选，最后用更精确的模型或规则重排序，返回结果。这里有个坑：索引构建好之后…

#美团#Embedding相似性检索#Embedding 相似性检索

面试题·检索· 美团

Embedding 相似性检索怎么工作?

匹配口述回答：…略，切太碎丢失上下文，切太长噪声多，得根据文档类型调；二是query改写，用户问题可能很口语化，我会先改写一下再去做检索；三是[[Rerank]]，初召回Top100，再用[[Cross-Encoder]]重排一次，把最相关的Top5送进生成。还有一个点值得聊，就是检索的置信度问题。有时候召回来的文档跟问题根本不相关，但模型还是硬用，就会产生[[Hallucination]]。我一般会在检索后加一层相关性过滤，低于阈值的直接丢弃。这个阈值怎么定，其实跟业务场景和模型能力都有…

#美团#Embedding检索#Embedding 相似性检索

面试题·文档处理· 百度

常用分块方法有哪些?

匹配口述回答：…比如有的20 tokens有的500 tokens，那就要调整递归的层级参数。其实还有一个方向值得深挖，就是分块策略怎么和 [[Rerank]] 配合。比如语义分块切出来的块，有时边界还是不够准，如果后面接一个 [[Cross-Encoder]] 重排，就能把切得不好的块里真正相关的片段捞出来。但这就引出另一个问题，重排的延迟怎么控制，对吧？所以总的来说，我更倾向把分块看成一套可配置的管道，而不是一个固定的算法。先根据文档类型选主策略，再用重叠和重排兜底，最后用线上指标比…

#百度#文本分块策略#RAG chunking

面试题·评估· 百度

RAG 架构怎么工作?

匹配口述回答：…的时候，我会做几个工程取舍。先说[[混合检索]]，不只用向量，还结合[[BM25]]这类关键词匹配，让两种方法互补。再一个是加[[重排]]，召回Top-K之后用更精细的模型比如[[Cross-Encoder]]重新打分，把真正相关的顶上来。还有就是置信度过滤，分太低的直接扔掉，宁可少给信息也别给错的。还有一个常被问到的问题是RAG和微调的边界。我的看法是，RAG适合知识更新快、需要溯源的场景，比如客服的退款政策、企业SOP；微调适合让模型学会特定风格或推理模式，比如医疗诊断…

#百度#评估与监控#RAG 架构

面试题·模型微调· 百度

Embedding 模型选型考虑哪些因素?

匹配口述回答：…，算MRR和Recall@K。上线前还会做AB测试，看端到端效果有没有提升。还有一个容易被忽略的点：embedding模型和[[Rerank]]模型怎么配合。很多人以为embedding效果好就万事大吉，其实embedding做初筛，[[Cross-Encoder]]做精排，两者结合才能达到生产级精度。这个配合的阈值怎么设、延迟怎么优化，是另一个值得深挖的问题。所以我的选型逻辑是：先定场景，再卡资源，然后选一个基线模型快速试错，最后用业务指标验证。如果效果不够，优先考虑领…

#百度#向量检索#Embedding 模型选型

面试题·知识图谱· 海尔

数据/架构/推理/工具怎么选?

匹配口述回答：…景，比如电商大促期间满减政策天天变。但 RAG 也不是万能药，检索质量差的话，上下文喂错了反而放大幻觉。所以落地时我通常会配合[[重排]]，用[[Cross-Encoder]]把检索结果再精排一遍，把不相关的滤掉。推理策略层面，这里有个简单但有效的方法叫[[Self-Consistency]]。就是让模型对同一个问题生成多条回答，比如温度设0.7跑五次，然后看哪些答案互相一致，不一致的说明可能有问题。还有一个更高级的变体叫[[Chain-of-Verification]]，…

#海尔#幻觉治理#大模型幻觉缓解