匹配正文：…变得不够聚焦。不能只看数据库保存了多少字，还要确认多少内容真正进入了向量编码。第三，检索和重排链路不同。只用向量召回、向量加 BM25 的混合召回、是否有 Cross-Encoder 重排，都会改变“大块”和“小块”的表现。粗召回与精排的职责不同：前者尽量带回候选，后者在较小候选集中做更细判断。切分实验如果同时更换检索器或重排模型，就无法判断收益来自哪里。第四，问题类型不同。精确术语问题可能只需要一小段定义；比较题可能同时需要两组证据；流程题需要连续步骤；否定和例外问…

#RAG#切分与索引#Chunk Size

面试题·RAG

Rerank 为什么更准，却不能对整个知识库运行？

匹配正文：…长，也失去了近似最近邻索引快速缩小范围的意义。合理的链路更像漏斗。第一层先根据知识库、文档状态和权限限定搜索范围。第二层用 BM25、向量或混合检索快速取得一批候选。第三层对候选执行 Rerank，重新计算相关性顺序。第四层根据分数、来源和上下文预算截取最终证据。从全库到最终证据的检索漏斗快速召回负责缩小范围，Rerank 只处理候选，最终再按上下文预算截断。各层解决的问题不同。这条链路里，Rerank 不负责凭空找回候选集之外的文档。如果正确证据没有进入粗…

#RAG#检索与重排#RAG Rerank

面试题·RAG

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

匹配正文：…已经上传，检索仍然只看旧索引。权限、知识库和文档状态也可能让正确 Chunk 不在本次范围内。如果正确证据根本不存在于索引，调 BM25 权重、替换 Embedding、扩大 Top-K 都不会修好问题。检索器只能在已有语料中挑选，不能找回从未进入候选空间的内容。这一层应该保存文档身份、解析版本、切分版本、Chunk ID、索引版本和当前状态。当原文件更新后，还要确认正确证据属于当前有效版本。旧版和新版同时存在时，检索可能找到一条语义高度相关、业务上却已经失效的内容。…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#RAG#生成与对话#RAG 检索优化

面试题·RAG

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：…模型判断合成一个“可回答分”。这样做方便执行统一决策，但综合分本身不能代替证据分析。第一，几个分数未必是同一把尺子。向量相似度、BM25 分数和 Rerank 输出的范围不同，直接相加会让某一路长期主导结果。第二，同一个分数可能对应不同缺口。一个问题得分偏低，可能是用户换了说法，也可能是正确文档不在允许范围，或者证据被切散。处理动作不能只由分数高低决定。第三，必要条件很难被一个平均分表达。问题问“新版流程在海外是否适用”，候选同时出现“新版”和“海外”，却分别来自两段互…

#RAG#生成与对话#RAG 无答案检测

求职指南·求职

领域八股速通:RAG / Agent / 评估 / 微调高频考点地图

匹配正文：…erank/混合检索/多路召回怎么补,以及各自的代价先看哪个 RAG 重排章代表题型 "为什么要 rerank""向量召回和 BM25 怎么结合""重排模型怎么选""topK 怎么定" 项目里怎么体现讲你加没加重排、召回从多少提到多少(经验值)、为什么选这个重排方案刷题去重排与优化题库。模型微调(47 题):验证你懂不懂什么时候该微调微调题量不大、门槛偏高,偏算法/研究生侧选修。面试官考它主要看两点:你分不分得清"该 RAG 还是该微调",以及懂不懂 SFT/L…

#求职#职业转型

求职指南·求职

大模型系统设计和编码环节怎么准备

匹配正文：…、元数据怎么带、索引多久重建、增量更新怎么做只说"存进向量库",说不清切块策略和更新机制检索/召回方案向量检索 + 关键词(BM25)混合、召回多少、要不要重排、多路召回怎么融合只上单路向量检索,答不上召回不全怎么办模型与 Prompt 选什么模型、上下文怎么拼、引用怎么带、幻觉怎么约束、要不要 function calling 把 Prompt 当细节略过,不提引用和防幻觉评估怎么做检索命中率、答案准确性、幻觉率怎么测,离线评估集 + 线上抽样,用不用 LLM…

#求职#职业转型

面试题·RAG

RAG 首字响应为什么慢？Embedding、检索和生成怎么逐段优化？

匹配正文：…Query 或改写后的 Query，向量检索需要 Query Embedding，模型生成又需要最终证据。它们存在明确依赖。但 BM25 与向量召回可以在准备好 Query 后并行，多个独立子查询也可以并发。并行的前提是它们互不依赖，而且下游资源能承受并发，不是把所有函数都改成 async 就会自动变快。 Embedding 阶段慢，怎么优化？先确认在线请求有没有重复计算文档向量。文档 Embedding 属于离线入库工作。在线问答通常只需要计算 Query 向量。如果…

#RAG#评测与上线#RAG 首字响应

面试题·RAG

一个可上线的 RAG 系统怎么拆？离线入库、在线问答和监控如何闭环？

匹配正文：…。可以回退原问题，或者向用户澄清。 Embedding 服务可能超时。如果系统同时有关键词路线，可以在明确标记降级的情况下只使用 BM25，但要重新应用证据门槛。向量检索可能失败。不能把空候选直接交给模型，让模型凭自身知识回答内部资料问题。 Rerank 可能超时。可以使用融合后的初排结果，但要记录本次未经过精排，并检查候选是否仍满足最低质量。模型服务可能限流或中断。系统可以返回已检索到的原文，或者明确提示稍后重试，不能伪造完整答案。引用核验失败时，高风险事实应该删除、…

#RAG#评测与上线#RAG 系统设计

项目实战·RAG

附录:把这个 RAG 项目写进简历 & 面试应答

匹配正文：…?为什么不用固定长度?" → 第 3 章(核辐射事故 + 三代演进); "为什么要混合检索?两套分数怎么融合?" → 第 5 章(BM25 短板 + RRF); "都召回了为什么还要精排?" → 第 6 章(粗排排错 + Lost in the Middle); "多轮里的指代怎么处理?历史太长怎么办?" → 第 8 章(指代消解 + 裁剪); "怎么保证答案不是编的、能溯源?" → 第 9 章(拒答 + 引用归因); "你怎么知道优化真的有效?" → 第 10 章(评估集 …

#RAG#检索#项目实战

面试题·Agent· 字节

Agent 长期记忆存储结构

匹配正文：…二进制，降低内存占用10x 召回策略：多路召回向量语义召回：query embedding → Top-K相似记忆关键词召回：BM25覆盖精确匹配场景图遍历召回：基于实体关系扩展相关记忆相关性排序优化特征融合打分 score = α·语义相似度 + β·时间衰减 + γ·重要性分数 + δ·交互频率时间衰减：e^(-λ·Δt)，近期记忆权重更高重要性建模：LLM打标关键事件，或基于用户显式反馈个性化：学习用户偏好向量，动态调整权重记忆压缩机制对话摘要：定期…

#字节#蚂蚁#向量检索

面试题·Agent· 阿里

Agent 中 RAG 瓶颈怎么破?

匹配正文：…HNSW索引构建耗时）、重排序（Cross-encoder延迟高）、多路召回合并精度损失：Embedding语义漂移、稀疏检索（BM25）与稠密检索融合权重难调 2. 上下文层瓶颈长度限制：长文档截断导致关键信息丢失，Agent多轮后历史膨胀噪声引入：检索top-k中的低相关文档污染生成，"中间丢失"现象 3. Agent特有瓶颈决策链累积错误：ReAct循环中检索→推理→工具调用，任一环节出错级联放大状态管理复杂：多Agent协作时知识同步延迟，工具返回结果格式不…

#阿里云#Agent#Agent RAG 瓶颈

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配正文：…e 部署本地/自研开源+云原生全托管SaaS 开源+混合云索引全支持 IVF/HNSW/GPU 黑盒HNSW HNSW+BM25混合实时更新需重建支持增量自动支持混合查询需二次开发标量过滤+向量元数据过滤 GraphQL+向量成本低（人力高）中高（按查询付费）中三、RAG场景的技术选型决策决策框架：精度-延迟-成本数据规模<1M，延迟敏感 → FAISS HNSW，自研服务数据规模1M-100M，需实时更新 → Milvus集群，…

#字节#文档处理#向量检索

面试题·文档处理· 字节

RAG 向量索引构建流程详解

匹配正文：… HNSW（图索引，高召回低延迟）索引优化实践：量化压缩：PQ（乘积量化）降存储，IVF-PQ平衡精度与内存多阶段检索：可用BM25/稠密向量召回，再用Cross-Encoder或ColBERT等方案重排；ColBERT是token多向量late interaction，不等同普通单向量稠密精排。增量更新：避免全量重建，用HNSW的动态插入或定期merge 五、效果验证闭环建立端到端评测：用真实query测试检索Top-K命中率，结合LLM评估生成质量，反向驱动分块…

#字节#文档处理#RAG 数据处理流程

面试题·文档处理· 字节

Chunk 向量化与索引怎么选?

匹配正文：…业级生产环境 Pinecone 全托管、零运维、自动扩缩容快速上线、团队运维资源有限 Weaviate 原生支持混合检索（向量+BM25）、GraphQL接口需要关键词+语义联合召回 Qdrant Rust实现、内存效率高、过滤性能强元数据过滤复杂、内存敏感 pgvector PostgreSQL插件、事务支持好已有PG生态、数据量<千万级四、工程选型决策框架关键权衡维度数据规模 <1000万：pgvector或单机Milvus足够 1亿：必须分布式方案（Mil…

#字节#向量检索#Chunk 向量化

面试题·文档处理· 字节

Embedding+向量库怎么做语义匹配?

匹配正文：…丢弃，避免引入无关内容 Rerank环节：用Cross-Encoder对召回结果精排，显著提升准确性混合检索：向量语义检索 + BM25关键词检索融合，互补覆盖一句话总结 Embedding模型解决"理解语义"问题，向量数据库解决"快速查找"问题，二者协同实现从海量文档中精准定位相关知识。学习建议建议先掌握嵌入模型原理和向量数据库基本操作，再结合RAG流程理解检索环节的语义匹配逻辑，通过动手实践加深理解。

#字节#文档处理#向量检索

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配正文：…排+乘积量化，内存压缩10-20倍，适合海量数据动态更新：增量索引避免全量重建四、检索增强 # 混合检索示例：向量相似度 + BM25关键词 def hybrid_search(query, alpha=0.7): dense_score = vector_db.similarity_search(query) sparse_score = bm25_search(query) return weighted_fusion(dense_score, sparse_scor…

#字节#文档处理#向量检索

面试题·文档处理· 字节

Embedding 模型选型 vs 落地流程?

匹配正文：…计算）元数据关联 { "vector": [...], # 稠密向量 "sparse_vector": {...}, # 可选，BM25权重 "metadata": { "doc_id": "xxx", "chunk_index": 3, "source": "技术规范_v2.pdf", "timestamp": "2024-01-15" } } 索引与入库小数据量：Flat（精确搜索）大规模：HNSW（高召回）或 IVF（内存友好）混合检索：稠密向量 + 稀疏向量（…

#字节#Embedding 模型选型#RAG 向量化流程

面试题·文档处理· 美团

RAG 知识库搭建流程?

匹配正文：…（图索引，召回率高）、IVF-PQ（内存友好），根据数据规模和延迟要求选择 4. 检索优化混合检索：向量相似度 + 关键词匹配（BM25），用RRF融合排序查询改写：扩展同义词、纠错，提升召回重排序（Rerank）：用Cross-Encoder精排Top-K结果学习建议建议系统学习该知识点

#美团#RAG 知识库搭建#文档预处理

面试题·评估· 高德

高并发 Agent 延迟卡在哪?

匹配正文：…颈高并发 Agent 的召回和生成是两类不同瓶颈，应分别测量排队、计算、存储和网络时间，再做端到端预算。召回阶段用元数据或 BM25 做安全的候选过滤，再用稠密检索补充语义召回；过滤规则必须通过召回回归，避免提前丢失正确文档。 HNSW 通过搜索宽度在延迟与召回间取舍；IVF 通过桶数和探测数取舍；PQ 可减少向量存储与带宽，但会引入量化误差。热点 query、embedding 和结果可以按语料与模型版本缓存；更新后必须正确失效。检索服务独立扩缩容，并记录 Rec…

#高德#Agent#Agent 系统延迟优化

面试题·评估· 美团

RAG 工作原理与局限怎么分析?

匹配正文：…mbedding 后存入向量数据库。检索侧:纯向量检索对订单号、错误码等专有名词效果差(语义相近但字面不同),生产上采用混合检索(BM25 关键词 + 向量)召回,再用 Cross-Encoder 重排精选前几名,拼入 prompt 交给模型生成。优势与局限维度优势局限知识时效文档更新即生效,无需重训依赖知识库维护质量可信度可带引用溯源,幻觉降低检索失败时模型仍可能编造成本远低于持续微调每次查询多一跳检索,延迟上升场景考量与 RAG × 微调结合 …

#美团#评估与监控#RAG 工作原理

面试题·评估· 美团

多路召回评估指标与RAG场景

匹配正文：…ery类型（事实性/推理性/多跳）配置不同评估权重 A/B测试验证：离线指标提升≠端到端效果提升，需线上验证典型组合稀疏召回（BM25）+ 稠密召回（向量）+ 重排序模型评估：各路Recall → 融合后NDCG → 端到端Answer Accuracy 学习建议建议先掌握信息检索基础指标（如Precision、Recall、MRR），再结合RAG场景理解多路召回的特性，通过实际项目或开源数据集动手实践评估流程。

#美团#评估与监控#多路召回评估

面试题·评估· 字节

RAG 评估指标与迭代陷阱

匹配正文：…参数记忆"作弊"。二、常见迭代优化方法瓶颈现象优化方法适用场景检索召回不足查询扩展（HyDE、多查询生成）、混合检索（BM25+向量）、重排序（Cross-encoder）用户问题表述模糊、专业术语对齐差检索精确率低稠密检索模型微调（领域适配）、元数据过滤、上下文压缩领域知识密集、噪声文档多生成幻觉/利用不足引用强制（要求标注来源）、检索内容前置、Self-RAG（生成时判断是否需要检索）对事实性要求高的场景长上下文处理差分层检索（摘要→细节）、…

#字节#评估与监控#RAG 评估

面试题·评估· 百度

RAG 错误怎么定位到检索或生成?

匹配正文：…重”当作模型确实依赖该资料或模块有错的充分证据。四、端到端消融实验实验1: 检索模块消融 → 固定生成模型，换用不同检索策略（BM25→Dense→混合） → 效果变化大 = 检索是瓶颈实验2: 生成模块消融 → 固定检索结果，换用不同生成模型（7B→70B） → 效果变化大 = 生成是瓶颈快速落地建议生产环境可用轻量版：对错误case自动注入"已知正确文档"重跑，对比输出变化，实现半自动化归因。学习建议掌握RAG流程中检索与生成的接口数据格式，练习构造测试用例…

#百度#评估与监控#RAG 错误定位

面试题·评估· 字节

专业领域 RAG 链路怎么搭?

匹配正文：… 类型用途实现稠密向量索引语义匹配领域微调Embedding（如医疗用PubMedBERT）稀疏关键词索引精准匹配 BM25 + 医学/法律专业词表知识图谱增强：抽取"疾病-症状-药品"或"法条-案例-解释"关系，构建实体链接三、检索策略多路召回 → 精排 → 重排：召回层：向量检索（Top-K）+ 关键词检索 + 图谱邻居扩展精排层：Cross-Encoder打分，过滤低相关片段重排层：按时效性、权威性加权；医疗优先临床指南，法律优先生效条文查询…

#字节#RAG 全链路#RAG 技术链路