匹配正文：为什么需要重排？初步检索的局限向量检索（如Embedding+ANN）追求速度快、召回率高，但牺牲精确度双编码器（Bi-Encoder）独立编码查询和文档，无法捕捉细粒度交互 Top-K结果中常混入"语义相关但内容不匹配"的噪声文档重排模型的作用机制维度初步检索（召回）重排（精排）架构双编码器（分别编码）交叉编码器（拼接输入）计算离线计算文档向量实时计算查询-文档交互复杂度 O(1) 向量相似度 O(n) 深度交互计算目标高召回、低延迟高精度…

#字节#重排与优化#RAG 重排

面试题·检索· 字节

RAG 重排序怎么选?

匹配正文：为什么需要重排序？向量检索（双编码器）存在固有缺陷：打分不可比：余弦相似度是绝对值，跨查询波动大粗粒度匹配：query和doc分别编码，丢失细粒度交互信息 Top-K截断风险：好的文档可能因向量相似度略低被漏掉重排序作为两阶段检索的第二阶段，用更高精度的模型对候选集（通常100-1000条）精细打分，显著提升最终Top-N的相关性。主流重排序方法方法原理适用场景交叉编码器（Cross-Encoder） Query+Doc拼接输入，Transformer输出相…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 中 Re-ranking 怎么用?

匹配正文：为什么需要重排向量检索（双塔模型）追求效率，用内积/余弦相似度快速召回，但存在两个局限：表示瓶颈：query和doc压缩成单一向量，细粒度语义丢失交互缺失：query-doc没有早期交互，难以捕捉复杂匹配关系重排模型正是弥补这个gap，在小范围候选集上做精准排序。两阶段检索架构 Query → 向量检索（召回Top-K，K=100~1000） → 重排模型（精排Top-N，N=5~10） → 生成第一阶段：追求召回率，用ANN快速过滤第二阶段：追求准确率，用重排…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#重排与优化#RAG Re-ranking

面试题·检索· 哔哩哔哩

召回和粗排为什么不能跳过?

匹配正文：…分工阶段核心功能候选集规模模型特点召回从百万/亿级池子中快速筛选千级候选 10⁶~10⁸ → 10³ 轻量模型（双塔、向量检索）、用户兴趣粗粒度匹配粗排对召回结果快速预筛选，为精排减负 10³ → 10² 轻量精排模型或排序模型，平衡效率与效果精排精细打分，决定最终展示顺序 10² → 10¹ 复杂深度模型，特征交叉、实时性要求高为什么不能跳过？ 1. 计算复杂度不可承受精排模型通常涉及高维特征交叉、复杂网络结构，单次推理延迟10-100ms级对百万…

#哔哩哔哩#评估与监控#推荐系统召回

面试题·检索· 字节

RAG 重排收益与成本

匹配正文：为什么需要重排？——双阶段检索的本质第一阶段（向量检索）的问题：使用双塔架构（Bi-Encoder），查询和文档独立编码，语义交互不足以余弦相似度衡量相关性，是"粗粒度"匹配追求高召回率，Top-K中难免混入语义相关但实际不相关的文档重排的核心作用：用交叉编码（Cross-Encoder）让查询和文档深度交互，捕捉细粒度语义关系在较小候选集（如Top-100→Top-5）上做精确排序，牺牲延迟换取精度对生成质量的具体提升维度提升效果相关性过滤剔除向量相…

#字节#重排与优化#RAG 重排收益与成本

面试题·检索· 字节

RAG 重排作用与实现

匹配正文：为何需要重排初检的局限性向量检索（双塔模型）追求效率，用点积/余弦快速近似，牺牲语义精细度多路召回（BM25+向量+关键词）结果混杂，缺乏统一相关性度量存在"伪相关"：向量相似≠真实答案相关解耦设计的好处召回阶段：广撒网，保召回率，毫秒级响应重排阶段：精筛，保准确率，接受百毫秒级延迟重排的核心作用作用说明语义精排用交互式模型捕捉query与doc的细粒度匹配多路融合统一打分不同来源的候选（向量/BM25/图谱）业务过滤加入时效性、权威性、用户偏…

#字节#Cross-Encoder重排#RAG 重排作用与实现

面试题·检索· 淘天

Naive RAG vs Advanced RAG 区别?

匹配正文：常见 RAG 形态 Naive RAG 查询直接编码，向量检索 Top-K，将候选拼接给模型。优点是链路短、易建立基线；缺点是对短 query、精确实体、文档冲突和复杂问题处理有限。 Advanced RAG 在检索前加入查询改写、扩展、分解或路由；检索中使用稀疏与稠密混合、元数据过滤和重排；生成前进行去重、压缩、冲突处理和引用组织。它通常能针对具体失败改进，但增加延迟、成本和维护面。 Modular / Agentic RAG 将检索、工具、验证、重试和路由做成可组合模块，…

#淘天#重排与优化#Naive RAG

面试题·检索· AIlab

RAG 流程各环节优化陷阱

匹配口述回答：…按句子向量相似度聚一下，避免把退款和投诉硬切到一起。前提是得有个靠谱的[[Embedding]]模型，不然语义边界也分不准。说到Embedding，通用模型在垂直领域经常翻车。比如电商场景里「满减」和「优惠券」语义相近，但通用模型可能觉得它们差很远。这时候我会考虑领域微调，或者用[[ColBERT]]这种多向量表示，每个token单独算相似度，匹配更细。不过代价是存储和检索都更重，所以小规模业务用通用模型加[[Hybrid Search]]其实更划算。检索阶段，纯向量检索…

#AIlab#RAG链路优化#RAG 优化

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配正文：答案要点离线知识库构建流程（文档解析、分块、向量化、索引存储）在线检索流程（Query改写、向量检索、重排序）生成阶段（上下文拼接、Prompt工程、答案生成）各环节的关键技术选型与权衡（分块策略、Embedding模型、检索算法） RAG完整流程分为离线构建和在线推理两大阶段：一、离线知识库构建文档解析：处理PDF/Word/网页等多格式，提取干净文本（注意表格、图片OCR）文本分块（Chunking）：按固定长度、语义段落或递归方式切分；块大小通常256-5…

#AIlab#RAG工作流#RAG 技术流程

面试题·检索· 快手

RAG 延迟与准确率优化

匹配正文：答案要点延迟挑战：检索耗时、多轮调用、大模型生成慢正确率挑战：检索不准、上下文噪声、多跳推理失败根因分析：向量检索局限、长上下文稀释、工具链复杂优化思路：预检索策略、重排序、缓存机制、混合检索延迟挑战与根因瓶颈环节具体表现根因检索阶段向量库查询+重排序耗时高大规模向量ANN搜索精度-速度trade-off，跨模态检索更慢工具调用 Agent多轮Planning-Action循环每次LLM调用串行，工具响应不可控生成阶段长上下文导致首token延迟…

#快手#RAG延迟优化#RAG 延迟与准确率优化

面试题·检索· 字节

RAG 为什么需要 Rerank?

匹配正文：答案要点说明两阶段检索的动机（召回vs精度的权衡）解释向量检索的局限性（语义粗粒度、无法利用交互信息）阐述Rerank的核心作用（细粒度语义匹配、计算资源后置）提及常见的Rerank模型（Cross-Encoder、ColBERT等）为什么需要Rerank 向量检索的固有缺陷双塔架构（Query-Document独立编码）只能捕捉粗粒度语义，缺乏细粒度交互 Embedding维度受限（通常768/1024维），信息压缩导致精度损失无法利用Query和Docume…

#字节#Rerank模型#RAG Rerank

面试题·检索· 字节

两阶段检索 vs 直接重排?

匹配正文：…排阶段只处理小候选集精度可扩展：重排序能捕捉细粒度语义交互（如query词与doc的精确匹配）灵活解耦：可独立优化召回策略（换embedding模型）或重排策略（换reranker）缺点误差累积：召回漏掉的优质文档，重排阶段无法挽回（recall天花板）系统复杂：需维护两套索引和模型，增加运维成本延迟叠加：两阶段串行，总延迟 = 召回延迟 + 重排延迟工业界典型配置 Query → 向量检索（HNSW索引，Top-1000）→ Cross-Encoder重排（T…

#字节#两阶段检索#RAG 重排序

面试题·检索· 快手

RAG 延迟准确率根因

匹配正文：…成才能开始生成流式输出卡顿：检索与生成串行执行，破坏实时体验长尾超时：复杂查询触发多轮检索或重排序时超时根本原因链路级联：向量检索 → 重排序 → 上下文组装 → 生成，各环节串行叠加重排序瓶颈：Cross-encoder精度高但延迟大（百毫秒级），成为关键路径上下文膨胀：检索Top-K文档后，长上下文导致Prefill阶段计算量激增准确率挑战表现召回不足：用户问题与文档语义不匹配，漏掉关键信息噪声干扰：检索到相关但非答案的片段，导致生成 hallucin…

#快手#RAG延迟与准确率#RAG 延迟准确率根因

面试题·检索· 高德

RAG增强与生成如何衔接？

匹配正文：…提取结构化文本知识分块（Chunking）：按语义/固定长度/递归分割，通常512-1024 token，块间保留重叠防止断句向量化：用Embedding模型（如BGE、M3E）将文本转为稠密向量索引存储：写入向量数据库（Milvus/Faiss/Elasticsearch），建立HNSW等近似索引加速检索二、在线检索阶段双路召回策略：向量检索：Query向量化后ANN搜索，捕获语义相似性关键词检索：BM25等传统方法补充，确保专有名词命中结果融合：RRF（R…

#高德#RAG#RAG 工作流程

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配正文：…微调索引结构：百万级用HNSW（内存索引），亿级考虑FAISS IVF或Milvus分布式方案多路召回：关键词（BM25）+ 向量双索引，解决语义漂移问题三、在线检索流程阶段技术要点查询改写 Query扩展、同义词补全、意图澄清（必要时主动反问）粗召回 Top-K向量检索（K=100~1000）精排序 Cross-encoder重排（如BGE-Reranker），筛选Top-5~10 过滤策略相关性阈值截断、元数据过滤（如只查最近1年文档）四、上下文构建与…

#百度#文档切分与检索#RAG 实现流程

面试题·检索· 百度

RAG 工作流程与关键技术组件

匹配正文：答案要点离线索引流程（文档解析、分块、向量化、存储）在线检索流程（查询改写、向量检索、重排序、上下文组装）关键技术组件（Embedding模型、向量数据库、Reranker）核心挑战（检索精度、上下文长度限制、知识更新、幻觉问题）一、RAG基本工作流程离线索引阶段文档解析：处理PDF/Word/网页等多格式，提取结构化文本文本分块（Chunking）：按语义或固定长度切分，通常512-1024 tokens，需保证语义完整性向量化（Embedding）：用B…

#百度#RAG技术架构#RAG 工作流程

面试题·检索· 百度

RAG 文档处理与检索策略怎么搭？

匹配正文：答案要点离线文档处理Pipeline（解析、清洗、分块、向量化）在线检索流程（向量检索+关键词混合、重排序优化）生成阶段集成策略（上下文组装、Prompt工程、引用溯源） RAG典型痛点与优化（幻觉、检索失效、上下文长度限制） RAG系统三层架构一、离线文档处理层核心流程：文档解析：PDF/Word/网页等多格式解析，处理表格、图片OCR 文本清洗：去噪、标准化、敏感信息脱敏智能分块：按语义段落切分（非固定长度），常用策略：递归字符切分 + 语义边界检测滑动…

#百度#RAG检索策略#RAG 系统架构

面试题·检索· 高德

RAG 组件功能与数据流向?

匹配正文：… 文本分块将长文档切分为语义完整的片段固定长度/递归/语义分块；块大小通常256-512 token 向量化将文本块转为稠密向量 Embedding模型（BGE、M3E、OpenAI text-embedding-3等）索引存储构建高效向量索引 HNSW、IVF等ANN算法；向量数据库（Milvus、Faiss、Qdrant）二、在线检索生成（Retrieval & Generation）用户Query → Query改写/扩展 → 向量化 → 向量检索(Top…

#高德#RAG数据流#RAG 工作流程

面试题·检索· 字节

RAG 核心实现原理是什么?

匹配正文：…义切片按语义边界切（如段落），非固定长度 Embedding模型文本→稠密向量领域适配（M3E/BGE/自研），考虑多语言向量数据库海量向量相似度检索 Milvus/Pinecone/自研，关注召回延迟重排序(Rerank) 精排优化检索结果 Cross-Encoder模型，提升Top-K相关性大模型最终答案生成需具备长上下文理解和指令遵循能力典型架构演进 Naive RAG（基础版） Query → 向量检索 → 直接拼接Prompt → LLM生成问…

#字节#RAG实现原理#RAG 实现原理

面试题·检索· 字节

专业领域RAG数据与检索优化？

匹配正文：…余：同一内容生成256/512/1024三种chunk，适配不同查询深度二、检索优化层多路召回召回通道适用场景实现方式向量检索语义相关领域微调Embedding + HNSW索引关键词检索精确匹配 BM25 + 领域同义词扩展结构化检索条件过滤元数据标签（时间、版本、文档类型）重排序与精排交叉编码器做精排，领域数据微调（如bge-reranker）引入用户反馈信号（点击、停留时长）做在线学习三、生成改进层上下文工程动态窗口：根据问题复杂度…

#字节#领域RAG架构#RAG 系统架构

面试题·检索· 字节

RAG 架构组件与失败场景

匹配正文：…文回答，不确定则拒绝" 后处理：答案溯源（标注引用来源）、幻觉检测、流式输出完整数据流用户Query → 查询理解/重写 → 向量检索(Top-K) → Rerank精排 → 上下文拼接 → LLM生成 → 带引用的答案关键优化点环节典型问题解决方案分块语义割裂递归分块、语义分块（基于Embedding变化点）检索长尾Query失效查询扩展、多向量表示（ColBERT）生成上下文淹没压缩摘要、选择性注入相关片段

#字节#RAG组件协同#RAG 系统架构

面试题·检索· 虾皮

RAG 流程优化：检索与重排陷阱

匹配正文：…，而非固定长度层次结构：保留文档层级（标题-段落-句子），支持多粒度检索元数据增强：添加时间、来源、类别等标签用于过滤 2. Embedding与向量化核心问题：领域适配和表征质量优化策略：领域微调：用对比学习在业务数据上微调Embedding模型多向量表征：一个文档生成多个向量（摘要、关键词、详细内容）稀疏-稠密混合：结合BM25和向量检索的优势 3. 向量检索核心问题：召回率和延迟的权衡优化策略：索引优化：HNSW参数调优（ef_constructio…

#虾皮#RAG全链路优化#RAG 流程优化

面试题·检索· 京东

RAG 怎么解决大模型幻觉?

匹配正文：…核心组件 1. 索引层（Indexing）文档切分（Chunking）：按语义或固定长度分块，通常512-1024 token Embedding编码：用BGE、M3E等模型将文本转为稠密向量向量存储：Milvus、Faiss、Elasticsearch等，支持ANN近似最近邻搜索 2. 检索层（Retrieval）相似度计算：余弦相似度或点积，召回Top-K候选重排序优化：Cross-Encoder精排，提升相关性混合检索：向量检索 + 关键词BM25，覆盖语义和…

#京东#幻觉抑制#RAG 技术原理

面试题·检索· 字节

RAG 架构：检索到生成全链路

匹配正文：答案要点离线知识库构建流程（文档解析、分块、向量化、索引存储）在线检索生成流程（查询改写、向量检索、重排序、上下文拼接、LLM生成）关键设计决策（分块策略、检索top-k数量、上下文长度控制）系统优化点（混合检索、缓存机制、多路召回）一、整体架构：离线+在线双链路 ┌─────────────────┐ ┌─────────────────┐ │ 离线知识库构建 │ │ 在线检索生成 │ │ (Index Pipeline)│ │ (Query Pipeline)│…

#字节#RAG组件设计#RAG 系统架构