匹配正文：…型对候选集（通常100-1000条）精细打分，显著提升最终Top-N的相关性。主流重排序方法方法原理适用场景交叉编码器（Cross-Encoder） Query+Doc拼接输入，Transformer输出相关性分数精度要求高、延迟可接受 ColBERT 延迟交互，token级相似度计算，兼顾效率和精度中等延迟、长文档场景多路融合向量检索 + BM25 + 稀疏向量（如Splade）结果融合数据分布复杂、单一通道不足 LLM-based重排用GPT-4/C…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 中 Re-ranking 怎么用?

匹配正文：… → 生成第一阶段：追求召回率，用ANN快速过滤第二阶段：追求准确率，用重排模型精细打分常用重排模型类型代表模型特点 Cross-Encoder BERT-reranker、monoT5 query和doc拼接输入，注意力层充分交互，效果最好但慢 Late Interaction ColBERT、ColBERTv2 保留token级向量，延迟交互，效率与效果平衡轻量重排 MiniLM、蒸馏版边缘部署， latency敏感场景实际落地要点截断策略：重排输入不…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 重排收益与成本

匹配正文：…弦相似度衡量相关性，是"粗粒度"匹配追求高召回率，Top-K中难免混入语义相关但实际不相关的文档重排的核心作用：用交叉编码（Cross-Encoder）让查询和文档深度交互，捕捉细粒度语义关系在较小候选集（如Top-100→Top-5）上做精确排序，牺牲延迟换取精度对生成质量的具体提升维度提升效果相关性过滤剔除向量相似但主题偏离的"伪相关"文档，减少无关信息干扰事实准确性确保进入上下文的文档真正包含答案依据，降低幻觉风险信息密度优先排序信息完整、结构…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#重排与优化#RAG 重排收益与成本

面试题·检索· 字节

RAG 系统怎么持续迭代?

匹配正文：…）、意图识别后路由不同索引混合检索向量+关键词+结构化过滤联合召回，解决语义漂移和精确匹配需求二、重排序层优化（精排筛选） Cross-Encoder精排：用轻量模型（如bge-reranker）对召回Top-K重排，比向量相似度更准多路融合：不同召回源（KG、向量、倒排）按置信度加权动态截断：根据query难度自适应调整送入LLM的文档数三、生成层优化（最终输出）上下文压缩：检索结果去重、摘要提取，避免超长context稀释注意力引用生成：强制模型输出引用标…

#字节#RAG评估闭环#RAG 系统优化

面试题·检索· AIlab

RAG 流程各环节优化陷阱

匹配正文：…+关键词BM25）、多路召回、查询扩展（同义词/LLM改写）、多轮对话历史压缩覆盖长尾查询，解决词汇不匹配重排序交叉编码器（Cross-Encoder，如bge-reranker）、LLM-based Rerank 精排Top-K，提升相关性生成优化上下文压缩（如LongLLMLingua）、引用溯源、拒绝回答机制（检索不足时）降低幻觉，提升可信度关键权衡召回 vs 精度：粗排用大模型Embedding保证召回，精调用Rerank提升精度延迟 vs 质量：实…

#AIlab#RAG链路优化#RAG 优化

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配正文：…（HyDE生成伪文档）、意图识别向量检索：ANN近似最近邻搜索，召回Top-K（通常20-100个）重排序（Rerank）：用Cross-Encoder（如BGE-Reranker）精排，选出最相关的3-5个送入LLM 三、生成阶段上下文拼接：将检索结果按相关性排序，拼接为上下文 Prompt工程：明确指令"基于以下参考信息回答，若信息不足请说明" 答案生成：LLM生成最终回复，可加入引用溯源关键优化点环节常见问题解决思路检索召回不足/噪声多混合检索、元数…

#AIlab#RAG工作流#RAG 技术流程

面试题·检索· 快手

RAG 延迟与准确率优化

匹配正文：…索：向量+关键词+知识图谱多路召回，RRF融合查询改写：HyDE生成伪答案再检索，解决query-doc语义gap 重排序精排：Cross-encoder细粒度打分，过滤低质结果 Self-RAG：生成时主动判断是否需要补充检索，避免过度检索 Agent层优化规划阶段用轻量模型，执行阶段再用大模型工具结果结构化缓存，相同参数直接复用

#快手#RAG延迟优化#RAG 延迟与准确率优化

面试题·检索· AIlab

RAG流程优化：三大层面策略

匹配正文：…询/摘要/对比类问题，路由到不同索引检索策略混合检索：向量相似度 + BM25关键词，RRF融合排序重排序（Rerank）：Cross-encoder精排，如bge-reranker，Top-K从100→20 多路召回：向量库+图谱+传统数据库并行检索二、生成层优化上下文处理上下文压缩：LLM摘要过滤冗余，或训练专用压缩模型引用溯源：要求模型标注答案来源，便于事实核查动态截断：按相关性分数加权拼接，非简单Top-K截断提示工程角色设定：明确"基于提供的参考…

#AIlab#RAG流程优化#RAG 优化

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配正文：…的局限性（语义粗粒度、无法利用交互信息）阐述Rerank的核心作用（细粒度语义匹配、计算资源后置）提及常见的Rerank模型（Cross-Encoder、ColBERT等）为什么需要Rerank 向量检索的固有缺陷双塔架构（Query-Document独立编码）只能捕捉粗粒度语义，缺乏细粒度交互 Embedding维度受限（通常768/1024维），信息压缩导致精度损失无法利用Query和Document的交叉特征（如词级别的精确匹配）两阶段架构的设计哲学阶段 …

#字节#Rerank模型#RAG Rerank

面试题·检索· 字节

两阶段检索 vs 直接重排?

匹配正文：…模型计算成本高，无法直接作用于大规模语料能对比单阶段vs两阶段在延迟、精度、成本上的权衡提到实际工业中的常见配置（如向量召回+Cross-Encoder重排）核心原因：计算成本与精度的权衡为什么必须分两阶段？阶段处理规模模型特点核心目标召回（Retrieval）百万~亿级文档轻量、快速（如向量相似度、BM25）快速筛选，从海量中捞出Top-K候选重排序（Rerank）百~千级候选重型、精准（如Cross-Encoder）精细排序，用复杂交互计算…

#字节#两阶段检索#RAG 重排序

面试题·检索· 快手

RAG 延迟准确率根因

匹配正文：…杂查询触发多轮检索或重排序时超时根本原因链路级联：向量检索 → 重排序 → 上下文组装 → 生成，各环节串行叠加重排序瓶颈：Cross-encoder精度高但延迟大（百毫秒级），成为关键路径上下文膨胀：检索Top-K文档后，长上下文导致Prefill阶段计算量激增准确率挑战表现召回不足：用户问题与文档语义不匹配，漏掉关键信息噪声干扰：检索到相关但非答案的片段，导致生成 hallucination 多跳失败：需要跨文档推理时，单轮检索无法覆盖根本原因语义鸿沟…

#快手#RAG延迟与准确率#RAG 延迟准确率根因

面试题·检索· 百度

RAG Query 改写方法

匹配正文：…突处理：若资料矛盾，列出不同观点并说明依据工程技巧：动态截断：按相关性分数倒序，token 预算留给高分文档重排序注入：把 Cross-Encoder 分数作为 metadata 放入 prompt，引导模型关注高置信片段负例过滤：对检索结果做置信度阈值过滤，低分文档直接丢弃而非放入上下文踩坑经验改写过度导致语义漂移：加一致性校验（改写 query 与原 query 的 embedding 相似度阈值）长文档截断丢失关键信息：检索时做段落级切分，而非整篇文档模…

#百度#小鹏#美团

面试题·检索· 高德

RAG增强与生成如何衔接？

匹配正文：…5等传统方法补充，确保专有名词命中结果融合：RRF（Reciprocal Rank Fusion）合并两路结果重排序优化：用Cross-Encoder（如BGE-Reranker）精排Top-K候选，提升相关性三、增强与生成阶段上下文拼接：按相关性排序检索结果，拼入Prompt模板提示工程：明确指令"基于以下参考资料回答"，约束模型引用来源生成控制：引用溯源：要求模型标注信息来源块拒答机制：检索置信度低时触发"信息不足"回复多轮优化：检索失败时自动扩展Qu…

#高德#RAG#RAG 工作流程

面试题·检索· 百度

RAG 工作原理与核心组件

匹配正文：…t模板包含"仅根据以下信息回答，不知道就说不知道" 关键优化点环节优化手段检索质量查询改写（HyDE）、多路召回、重排序（Cross-Encoder）上下文利用长上下文压缩、信息去重、相关性过滤端到端 Self-RAG（模型自主判断是否需要检索）、RAG-Fusion 一句话总结 RAG的本质是用检索代替记忆，让大模型基于外部实时知识生成，解决知识时效性和幻觉问题。

#百度#RAG核心组件#RAG 工作原理

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配正文：…点查询改写 Query扩展、同义词补全、意图澄清（必要时主动反问）粗召回 Top-K向量检索（K=100~1000）精排序 Cross-encoder重排（如BGE-Reranker），筛选Top-5~10 过滤策略相关性阈值截断、元数据过滤（如只查最近1年文档）四、上下文构建与生成上下文组装：按相关性排序，标注来源；超长时采用摘要压缩或多轮检索 Prompt设计：明确指令"基于以下参考信息回答，若信息不足请说明" 生成优化：引用溯源：要求模型输出引用标记 [d…

#百度#文档切分与检索#RAG 实现流程

面试题·检索· 百度

RAG 工作流程与关键技术组件

匹配正文：…展（HyDE、Query2Doc）向量检索：Top-K相似度召回，常用ANN算法（HNSW、IVF）重排序（Rerank）：用Cross-Encoder精排，提升相关性上下文组装：将检索结果注入Prompt模板，限制在上下文窗口内 LLM生成：模型基于检索上下文作答二、关键技术组件组件作用常用方案 Embedding模型语义编码 BGE-large、GTE、OpenAI text-embedding 向量数据库高效相似度搜索 Milvus、Weaviate、…

#百度#RAG技术架构#RAG 工作流程

面试题·检索· 百度

RAG 文档处理与检索策略怎么搭？

匹配正文：… → Embedding编码 → 向量相似度检索（Top-K） ↓ 关键词BM25检索 → 结果融合（RRF加权） ↓ 精排模型（Cross-Encoder重排序）→ 最终Top-N片段关键优化点： Query改写：扩展同义词、澄清指代多路召回：向量+关键词+图谱并行重排序：轻量Cross-Encoder比双塔更准，但 latency 高三、生成集成层上下文组装：检索片段按相关性排序，拼接为上下文控制总长度（通常占模型上下文30%-50%） Prompt设计要点…

#百度#RAG检索策略#RAG 系统架构

面试题·检索· 高德

RAG 组件功能与数据流向?

匹配正文：…E（假设文档嵌入）、查询扩展、多跳查询分解检索策略：稠密检索（向量相似度）+ 稀疏检索（BM25）混合重排序（Rerank）：Cross-Encoder模型精排，提升相关性上下文组装：检索结果去重、截断、按相关性排序注入Prompt 三、核心技术要点分块策略：按语义边界切分，避免切断关键信息；重叠窗口保持上下文连贯检索精度：多路召回（向量+关键词）+ Rerank，解决语义漂移问题生成控制：限制LLM仅基于检索内容回答，降低幻觉；引用溯源增强可信度四、演进方向 …

#高德#RAG数据流#RAG 工作流程

面试题·检索· 字节

RAG检索方法选型原因？

匹配正文：… 查询优化 Query改写（HyDE生成伪文档）、意图分类路由不同检索策略结果优化两阶段检索：粗排（Top-K召回）+ 精排（Cross-Encoder Rerank）数据优化文档分块策略（按语义/结构切分）、元数据过滤预筛选 Rerank环节尤为重要：用轻量Cross-Encoder（如bge-reranker）对Top-100重排，NDCG@10提升15-20%常见。

#字节#评估与监控#RAG 检索方法

面试题·检索· 字节

RAG 核心实现原理是什么?

匹配正文：…言向量数据库海量向量相似度检索 Milvus/Pinecone/自研，关注召回延迟重排序(Rerank) 精排优化检索结果 Cross-Encoder模型，提升Top-K相关性大模型最终答案生成需具备长上下文理解和指令遵循能力典型架构演进 Naive RAG（基础版） Query → 向量检索 → 直接拼接Prompt → LLM生成问题：检索质量差、上下文冗长、生成不可控 Advanced RAG（生产常用） Query → 路由判断 → 多路检索(向量+关…

#字节#RAG实现原理#RAG 实现原理

面试题·检索· 字节

BM25/向量/混合检索选型

匹配正文：答案要点能区分稠密检索与稀疏检索的适用场景理解混合检索的融合策略（如RRF）知道何时需要重排序（Cross-encoder）掌握查询改写/扩展技术（HyDE、多查询）能结合业务场景说明选型依据核心检索方法及选型 1. 向量检索（Dense Retrieval）技术：Embedding模型（BGE、M3E、OpenAI-ada）+ 向量库（Milvus/Faiss）场景：语义匹配、长文档理解、跨表述查询（如"苹果价格"→"iPhone多少钱"）考量：对短查询效…

#字节#检索方法选型#BM25/向量/混合检索选型

面试题·检索· 字节

RAG 架构组件与失败场景

匹配正文：…多跳分解检索策略：稠密检索（向量相似度）+ 稀疏检索（BM25）混合多路召回（关键词+向量+图谱）重排序（Rerank）：Cross-Encoder模型精排Top-K，过滤低相关文档 3. 生成模块（Generation）上下文组装：按相关性排序文档，截断至上下文窗口 Prompt工程：明确指令+检索上下文+用户问题，要求"仅基于上下文回答，不确定则拒绝" 后处理：答案溯源（标注引用来源）、幻觉检测、流式输出完整数据流用户Query → 查询理解/重写 → 向量…

#字节#RAG组件协同#RAG 系统架构

面试题·检索· 京东

RAG 怎么解决大模型幻觉?

匹配正文：…h等，支持ANN近似最近邻搜索 2. 检索层（Retrieval）相似度计算：余弦相似度或点积，召回Top-K候选重排序优化：Cross-Encoder精排，提升相关性混合检索：向量检索 + 关键词BM25，覆盖语义和字面匹配 3. 生成层（Generation）上下文组装：检索结果 + 用户Query拼接成Prompt 大模型生成：基于锚定的事实进行回答工作流程用户Query → Embedding编码 → 向量库检索Top-K → 重排序筛选 → Prompt…

#京东#幻觉抑制#RAG 技术原理

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配正文：…（如"它"→具体实体）多路检索向量检索（语义匹配）+ 关键词检索（精确匹配）+ 可能的知识图谱召回重排序（Rerank）用Cross-Encoder（如BGE-Reranker）精排Top-K，提升相关性上下文组装按相关性排序拼接chunk，控制总长度（通常占LLM上下文30%-50%） LLM生成构造Prompt："基于以下信息回答问题：[context]\n问题：[query]" 四、关键优化点混合检索：稠密向量+稀疏向量+倒排索引，兼顾语义和精确匹配检…

#字节#RAG组件设计#RAG 系统架构