匹配正文：核心区别：从"拼接"到"融合" 1. 架构设计演进维度传统RAG 现代RAG 检索器稀疏检索（BM25）、独立索引稠密检索（DPR、Contriever）、双塔编码生成器固定LLM，仅把检索文本当prompt 可训练或适配的生成模型连接方式字符串拼接，显式上下文窗口潜在空间交互，隐式信息融合典型代表：Facebook的RAG模型（2020）首次将检索器和生成器联合预训练，而非简单拼接。 2. 信息融合位置输入层融合（早期）：检索文档直接拼接到prompt…

#淘天#RAG端到端训练#现代 RAG 架构

面试题·RAG· 京东

Query 改写有哪些创新方法?

匹配正文：…属性规范化）典型技术：T5/BART微调、LLM Prompt工程（"请将以下Query改写为适合检索的形式"） 3. 对话历史融合（Contextual Rewriting）做法：将多轮对话历史编码，解决指代和省略优势：处理指代消解（"它多少钱"→"iPhone 15多少钱"）捕捉意图漂移（用户从"手机"转到"充电器"）支持多轮决策型对话典型技术：显式改写：用模型生成自包含Query（QuReTeC、LLM-based）隐式编码：历史拼接+Position…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#京东#Query改写#Query 改写

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…数据微调；法律场景加入引用频率和时效性作为手工特征查询改写：用LLM做Query2Doc扩展，医疗场景做症状标准化对齐四、生成融合：上下文组装与约束上下文压缩：用LLM对检索片段做摘要，控制token数引用锚定：强制生成时标注来源片段ID，法律场景需输出"依据《XX法》第X条" 后处理校验：领域规则引擎过滤（如药物禁忌冲突检测）五、端到端优化评估体系：检索用Recall@K，生成用答案相关性和事实准确性（医疗用人工医生标注）迭代闭环：错误案例回流，持续微调Emb…

#字节#重排与优化#RAG 链路优化

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配正文：…向量召回Top100 → BM25粗排 → Cross-Encoder精排Top10 动态重排：结合用户反馈的在线学习排序上下文融合优化上下文压缩：LLMLingua选择性压缩、重排序后截断关键片段多文档处理：去重合并、按相关性加权融合、构建结构化上下文（表格/树状）长上下文利用：Lost in Middle问题缓解，关键信息放首尾生成环节优化 Prompt工程：明确引用格式要求、 few-shot示例引导结构化输出生成增强：Self-RAG（生成时自检索验证）、…

#字节#RAG迭代优化#RAG 优化

面试题·检索· 百度

RAG 工作原理与核心组件

匹配正文：…段检索策略演进：稠密检索：语义匹配好，但可能漏关键词稀疏检索（BM25）：精准匹配关键词，补充稠密检索混合检索：稠密+稀疏融合，线性加权或RRF重排 3. 生成阶段上下文组装：检索结果 + 用户Query构造Prompt 大模型生成：基于提供的上下文作答，典型Prompt模板包含"仅根据以下信息回答，不知道就说不知道" 关键优化点环节优化手段检索质量查询改写（HyDE）、多路召回、重排序（Cross-Encoder）上下文利用长上下文压缩、信息去重、相关…

#百度#RAG核心组件#RAG 工作原理

面试题·检索· 网易

BM25+向量+Cross-Encoder 怎么组合?

匹配正文：整体架构 Query ├─ BM25 稀疏召回 └─ 向量稠密召回 ↓ 去重与排名融合 ↓ Cross-Encoder 重排小候选集 ↓ Top-K 三类组件的分工 BM25：利用词项匹配、IDF 和长度归一化，擅长专有名词、编号、短语和必须字面命中的查询；速度取决于索引、语料与部署，不能称为“零延迟”。向量召回：用 embedding 表达语义相似，能补充同义改写和字面不重合的结果，但可能弱化精确实体或数值约束。 Cross-Encoder：联合编码 query-docu…

#网易有道#BM25向量Cross-Encoder#BM25 向量召回 Cross-Encoder

面试题·检索· 小鹏

如何系统优化 RAG 检索？

匹配正文：…不同。专有名词、编号和精确短语常能从关键词召回获益，语义改写可能从向量召回获益；是否做混合检索要按切片比较两路的独立贡献。 3. 融合与重排融合先处理不同结果集的重复文档与稳定文档 ID。RRF 使用名次而不是原始分数，仍有 rank constant、候选深度和可选权重；分数归一化/加权则保留分数差异，但对分数尺度敏感。应在同一 judgment set 上比较，而不是认定 RRF 无需调参。重排只处理已经召回的候选。Cross-Encoder、Late Interac…

#RAG#检索优化#混合检索

面试题·检索· 高德

RAG 系统实现流程怎么搭?

匹配正文：…召回候选精排 Cross-Encoder重排序精细 relevance 打分混合检索：稠密向量 + BM25稀疏检索，RRF融合排序查询改写：HyDE（假设文档嵌入）、查询扩展提升召回 4. 生成模型集成上下文组装：检索结果按相关性排序，拼接为上下文 Prompt设计：基于以下参考信息回答问题。如果参考信息不足，请说明。 [参考文档1] ... [参考文档2] ... 问题：{query} 窗口管理：控制总长度，优先保留高相关性文档 5. 结果融合与优化引用溯源…

#高德#RAG结果融合#RAG 实现流程

面经·项目面试

混合检索先过一关：两路分数能直接相加吗？

匹配正文：…49、2、1；向量一路依次是B、C、E、A，分数分别为0.95、0.90、0.60、0.50。这些顺序和数字都是手工给定，用来检查融合运算。每路只取去重后的四条，同一个候选用统一标识合并，两路并集是A到E共五条，最后输出前三条。同路重复出现的候选只保留最高分，不让一条内容在同一路重复投票。所有方法接收完全相同的两张名单。直接等权相加时，A得到25.25，B得到24.975，A排在前面。BM25里两者相差1分，乘一半以后相差0.5；向量里B领先0.45，乘一半后只追回0.2…

#RAG#混合检索#RRF

面经·求职· 通用岗位场景

RAG 项目面试会怎样连续追问？一场工程深挖教学复原

匹配正文：…键考点文档分块(Chunking)策略与表格切分 Embedding 模型选型与领域微调 BM25 + 向量混合检索与 RRF 融合多轮对话 Query 改写与指代消解 Cross-Encoder Rerank 精排 RAG 幻觉归因与四类治理 RAG 评估指标(Recall@K / MRR / LLM-as-Judge) 检索权限前置过滤与上线回归第一部分 · 先证明你理解完整链路先把这部分当成模拟面试。不要背示例项目，先在纸上写下自己的资料类型、请求链路和负责范围…

#RAG#项目深挖#教学复原

求职指南·RAG

混合检索、RRF 与重排项目模拟面试

匹配正文：…成与排序工件。使用【BM25、向量、RRF 或重排的真实组合】改善【真实指标】，代价为【真实时延或成本变化】。需要准备：基线；融合参数；消融结果；工程代价。逐层练习 1. 说清你的职责简历原句是“【自己的真实项目描述】”。BM25、向量召回、融合和重排中，哪些组件及参数由你负责？考察重点：核验项目所有权，避免把团队或平台成果当作个人成果。本人负责的模块、决策和交付边界团队、平台与外部服务的边界如果还没讲清：补充对应事实或可脱敏证据，再继续下一组问题。练习顺…

#模拟面试#简历项目#连续追问

系统教程·检索

重排与检索优化面试题大全

匹配正文：…上下文”。混合检索和重排怎么配合？混合检索负责扩大候选，重排负责统一相关性判断。常见做法是 BM25 + 向量召回后 RRF 融合，再用 reranker 精排前几十条。继续学习 RAG 面试题大全与知识体系系统设计：把检索链路做成可评估系统

#专题学习#重排与检索优化面试题大全

项目实战·RAG

第 2 章:RAG 整体架构

匹配正文：…与两阶段排序很多人以为检索就是"算个相似度取 Top-K",工程系统可以根据查询与风险增加路由、双路召回或重排: 双路召回 → 融合 → 重排双路召回:同时用向量检索(懂语义)和关键词检索 BM25(精确匹配)两路去捞,再融合去重。BM25 是搜索引擎用了 20 年的"关键词打分"经典算法,第 5 章会让你亲手写一遍。两阶段:先用快的方法召回一批较宽松的候选(比如粗召回 Top 50),再用慢但准的 Cross-Encoder(精排用的深度模型,准但慢) 把这 50 条…

#RAG#检索#项目实战

项目实战·RAG

第 3 章:文档预处理与切分

匹配正文：…精确定位。做法:中文编号特别杂(1.1.1 / 第一条 / (一) / 纯靠字号加粗,还经常跳号重号)。纯正则不够,实务是多策略融合:正则匹配常见编号 + 利用解析得到的样式(字号、加粗、缩进)+ 一个轻量分类器兜底。怎么验证:先抽样标注一批文档标题,分别测纯正则和"正则 + 样式/分类器"的识别结果。是否需要分类器,应由你自己的错误分布决定,不能从示例直接推出。招式 2:超长章节递归切分白话:一章太长放不下,就先按小节切;小节还太长,再按段落切;段落还长,才按句子切…

#RAG#检索#项目实战

求职指南·求职

大模型应用开发岗一天在做什么?细分岗位画像

匹配正文：…hunk size 为什么这么设? overlap 怎么定? 下午加混合检索、重排或 Query 改写 BM25 和向量检索怎么融合? RRF 的 k 怎么解释? 晚些做评估集和错误分类 Recall@k、MRR、答案正确率怎么量化? 发布前加引用溯源、拒答、权限过滤没依据时怎么拒答? 不同用户能不能看到同一份文档? RAG 很适合后端转型,因为它一半是数据管线和服务系统,一半是模型行为。站内的RAG 智能问答系统就是按这个链路设计的:从文档处理到检索、重排、记忆、引…

#求职#职业转型

面试题·RAG

RAG 文档解析质量怎么评估？不能只看“解析成功”

匹配正文：…头补齐或跨页合并。第三种情况，正确 Chunk 存在，却没有进入前几条检索结果。这时再查问题改写、关键词与向量召回、过滤条件、融合和重排。第四种情况，正确证据已经排在前面，模型仍然答错。这时才去看提示词、上下文组织、引用约束和生成模型。从最终错误反查解析链路先确认正确证据在哪一层消失，再决定检查解析、切分、检索还是生成。最终答案错误不能直接归因于大模型。这种分层有一个直接好处：修改目标变得清楚。如果正确单元格从未被还原，换 Rerank 没有意义。如果证据存在…

#RAG#解析与入库#RAG 文档解析评估

项目实战·RAG

第 9 章:上下文问答与引用溯源

匹配正文：… ✓ 学会 Prompt 怎么拼(仅依据资料 / 编号 / few-shot / 长度语气) ✓ 理解回答控制:拒答、防越权、多段融合 ✓ 掌握引用溯源两条路线(Prompt 内生成 vs 后处理归因)及取舍 ✓ 理解幻觉检测:答案每句话能不能在原文里找到支撑本章按三段式组织,不同基础的读者各取所需: 段落给谁看内容占比 🚀 Part 1 · 主线实战零基础,想先跑起来概念白话 + 带引用问答 demo ~45% 🎯 Part 2 · 面试深度想讲透、备战面…

#RAG#检索#项目实战

面试题·模型架构· 字节

LLaMA为何选RMSNorm?

匹配正文：…不能据此宣称它对异常值更鲁棒。效率与稳定性 RMSNorm少一个均值和中心化统计，算子可能更简单，但端到端收益取决于kernel融合、维度、精度和硬件，不能承诺固定加速。两者在Transformer中通常都对每个token的hidden features归一化，不会拿不同token的均值互相污染。若隐藏维做张量并行，统计量是否跨卡归约取决于切分布局。 LLaMA采用Pre-Norm位置的RMSNorm。合理表述是该选择在其训练配方中兼顾质量和实现效率，不是RMSNorm在所…

#Layer Normalization#RMS Normalization#归一化技术

面试题·模型架构· 美团

LayerNorm vs BatchNorm 怎么选?

匹配正文：…e-Norm通常让深层训练更稳定，原始Transformer是Post-Norm。LN也不是没有代价，它需要归约操作，可能影响内核融合；小hidden维、低精度和分布式张量切分下都要关注数值与通信。 padding问题要说准确。若每个token单独沿hidden维做LN，padding token的值不会进入真实token的均值和方差；真正需要mask的是attention、loss以及任何跨序列聚合。若实现把多个维度一起归一化，结论会变化，所以应查看normalized_s…

#Layer Normalization#Batch Normalization#Transformer

面试题·RAG

Query 重写、扩写和 HyDE，应该在哪些查询上启用？

匹配正文：…始意图的保底路线，不能被不可逆覆盖。扩写结果怎样合并？按稳定 Chunk ID 去重，保留候选来自哪些扩写 Query，再统一融合或重排。这样能控制重复，也方便排查噪声来源。 HyDE 的假设答案错了，为什么有时还能检索？因为它借用的是完整陈述的语义表示，不要求每个事实都正确。但错误假设仍可能带偏召回，所以必须保留原 Query 并只使用真实文档作为最终证据。哪些 Query 不应默认改写？明确标题、错误码、产品编号、法规条款和其他精确实体。这些问题的原词本身就是最…

#RAG#检索与重排#RAG Query 重写

面试题·模型架构· 字节

RMSNorm vs LayerNorm：训练效率怎么比?

匹配正文：…成0”，也不要求输入已经是零均值。效率与数值边界 RMSNorm少计算均值和中心化项，理论上统计量更少，kernel也可能更容易融合。但两者都是token内沿隐藏维归约，通常不是“同步所有GPU”；端到端速度和显存收益取决于kernel、隐藏维、精度和硬件，不能给固定百分比。数值稳定性不能简单判定RMSNorm必然更好。混合精度实现常在较高精度中累积平方和，并依靠 eps 处理极小尺度。LayerNorm对整体平移具有再中心化不变性，RMSNorm则会保留均值分量。逐维 …

#LayerNorm#RMSNorm#归一化方法

面试题·RAG

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

匹配正文：…最终答案只是链路最后一层。错误可能早在文档解析时就发生，也可能是 Query 被改写带偏、过滤条件挡掉了正确文档、向量召回没找到、融合时被压下去，或者 Rerank 把正确证据排到了后面。如果连正确证据在哪一层消失都不知道，改参数更像碰运气。排查前，为什么先要有“正确证据”？如果只知道“答案错了”，排查没有参照物。系统返回的每条候选都可能看起来相关，但只有能够直接支持参考答案的原文，才是这次问题应该追踪的对象。因此，一条可调试样本至少要准备三样东西：原始 Query…

#RAG#生成与对话#RAG 检索优化

面试题·RAG

多轮 RAG 如何理解“这个怎么申请”？

匹配正文：… A 产品、原问题路线找到 B 产品，而历史无法消歧，应该澄清，不能靠综合分替用户决定。如果两路语义一致，可以保留候选来源标签再融合。这样能看到正确证据由原问题还是改写问题找回，也能在评测中判断改写真正贡献了什么。若原 Query 已经稳定找到证据，改写没有增加覆盖却带来更多噪声，就不应只因为流程完整而强制启用改写。重试还要有次数和策略上限。一次回退解决不了的问题，不应继续自动扩写、分解和放宽门槛，直到出现一段勉强相关的文本。对象或条件不清时，澄清是正常结果；资料里没有答…

#RAG#生成与对话#多轮 RAG

多信号评分函数原理与陷阱

现代 RAG 架构怎么变?

Query 改写有哪些创新方法?

专业领域RAG链路优化陷阱

RAG 系统迭代优化方向有哪些?

RAG 工作原理与核心组件

BM25+向量+Cross-Encoder 怎么组合?

如何系统优化 RAG 检索？

RAG 系统实现流程怎么搭?

混合检索先过一关：两路分数能直接相加吗？

RAG 项目面试会怎样连续追问？一场工程深挖教学复原

混合检索、RRF 与重排项目模拟面试

重排与检索优化面试题大全

第 2 章:RAG 整体架构

第 3 章:文档预处理与切分

大模型应用开发岗一天在做什么?细分岗位画像

RAG 文档解析质量怎么评估？不能只看“解析成功”

第 9 章:上下文问答与引用溯源

LLaMA为何选RMSNorm?

LayerNorm vs BatchNorm 怎么选?

Query 重写、扩写和 HyDE，应该在哪些查询上启用？

RMSNorm vs LayerNorm：训练效率怎么比?

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

多轮 RAG 如何理解“这个怎么申请”？