匹配正文：为什么需要混合检索单一检索方式都有明显短板： Sparse检索：擅长精确匹配关键词，但无法理解同义词、语义变体 Dense检索：擅长语义理解，但对罕见词、专有名词容易失配混合检索=精确性+语义泛化能力，是生产RAG系统的标配。 Sparse检索（稀疏检索）原理：基于倒排索引的词频统计方法，典型代表BM25 BM25(q,d) = Σ IDF(q_i) · [f(q_i,d)·(k1+1)] / [f(q_i,d) + k1·(1-b+b·|d|/avgdl)] 只关注查…

#美团#Hybrid Retrieval#混合检索

面试题·检索· 美团

混合检索怎么提升 RAG 召回?

匹配正文：为什么要混合检索稀疏检索和稠密检索利用的信号不同：BM25 擅长实体名、编号、错误码和查询词共现；双塔向量检索能够召回词面不同但语义接近的文本。二者都可能失败，混合检索的价值是扩大互补覆盖，而不是保证每个查询都优于单路。两类检索与分数 Sparse/BM25 基于倒排索引，对查询词的 IDF、文档内词频饱和和长度归一化加权。分数受实现、语料统计和查询长度影响，没有可跨系统直接比较的固定尺度。 Dense/DPR 类双塔分别编码 query 和 document，再用点积、…

#美团#混合检索#混合检索 Hybrid Retrieval

项目实战·RAG

第 5 章:检索召回,混合检索(BM25 + 向量)

匹配正文：… 1 的 BM25 demo 零依赖(连第三方库都不用) ✅ 最好先读过第 4 章,那章讲了"向量检索"(懂语义),这章讲"关键词检索"(精确命中),以及怎么把两者合起来 3 个核心概念(先白话,再术语) 概念 1:召回(recall)和"检索召回模块" 第 3 章我们用"召回率"衡量切分好坏;这里的召回是动词:指从知识库里把可能相关的 chunk 捞出来这个动作。负责这件事的就是"检索召回模块",它是 RAG 的"搜索引擎"。概念 2:稀疏检索 vs 稠密检索稠密检索(…

第 1 / 2 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#RAG#检索#项目实战

面试题·RAG

RRF 和加权求和怎么选？两路检索分数为何不能直接相加？

匹配正文：…优先满足精确过滤，例如租户、时间、版本或编号。这里首先应该做结构化过滤，而不是指望 RRF 修正；过滤之后，若业务已经有稳定可靠的检索优先级，加权融合也可能更合适。加权求和和 RRF 怎么选需要表达稳定业务偏好时可考虑加权；难以校准多路分数时，RRF 更适合建立基线。怎样做一次公平的 RRF 与加权融合对照若两边候选、Embedding 或重排链路不同，最终指标就没有比较意义。先做单路贡献消融在比较两种融合公式以前，先分别跑 BM25-only、Dense-onl…

#RAG#检索与重排#RRF

面试题·评估· 百度

RAG 错误怎么定位到检索或生成?

匹配正文：…调整位置与保持其它变量不变的干预验证。不把“高权重”当作模型确实依赖该资料或模块有错的充分证据。四、端到端消融实验实验1: 检索模块消融 → 固定生成模型，换用不同检索策略（BM25→Dense→混合） → 效果变化大 = 检索是瓶颈实验2: 生成模块消融 → 固定检索结果，换用不同生成模型（7B→70B） → 效果变化大 = 生成是瓶颈快速落地建议生产环境可用轻量版：对错误case自动注入"已知正确文档"重跑，对比输出变化，实现半自动化归因。学习建议掌握RA…

#百度#评估与监控#RAG 错误定位

面试题·模型微调· 字节

RAG 检索噪声 3 大策略

匹配正文：…文档，添加领域-specific的元数据标签（时间、来源、类别）构造难负样本：训练时加入语义相近但答案错误的段落，增强判别能力检索优化层面查询侧改进查询改写（Query Rewriting）：用LLM扩展同义词、澄清指代消解 HyDE（假设文档嵌入）：生成伪答案后再检索，弥合查询-文档语义鸿沟检索策略混合检索：BM25关键词 + Dense向量双路召回，取长补短 Embedding微调：用领域数据对比学习，让向量空间更适配业务后处理层面重排序（Rerank） …

#字节#RAG 检索噪声#RAG 数据构建

面试题·RAG· 淘天

RAG vs 传统检索生成怎么选?

匹配正文：一、架构设计差异维度传统"先检索后生成" RAG 流程关系流水线式分离：检索→拼接→生成，各模块独立优化端到端融合：检索作为可微分模块嵌入生成流程训练方式检索器固定或独立训练，生成模型无法反馈优化检索联合训练，生成loss可回传优化检索编码器知识存储检索结果作为硬提示（hard prompt）拼接检索向量通过注意力机制软融合（soft fusion）核心区别：RAG将检索从"前置预处理"转变为"模型内部运算"，典型如Dense Passage Retri…

#淘天#RAG信息融合#RAG与传统检索生成对比

面试题·RAG· 字节

RAG 检索模块怎么提升相关性?

匹配正文：检索模块工作机制 RAG检索模块的核心流程：索引构建：文档切分→Embedding编码→写入向量数据库在线检索：查询向量化→近似最近邻搜索（ANN）→返回TopK候选结果组装：结合元数据过滤，送入生成模块三种提升相关性的方法 1. 混合检索（Hybrid Search）原理：融合向量语义检索 + 关键词匹配（BM25），解决向量检索对专有名词、ID类信息召回不足的问题融合策略：线性加权 score = α·dense_score + (1-α)·sparse_sc…

#字节#Query Rewriting#RAG 检索模块

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配正文：…询理解与改写技术要点：Query扩展（同义词、HyDE生成假设文档）、意图识别、多轮对话历史融合质量影响：查询语义漂移直接导致检索偏差，是RAG失效的首要环节 2. 文档检索（召回阶段）方法适用场景实现要点向量检索（Dense）语义匹配、长尾查询 Embedding模型选择（BGE/M3E）、向量数据库（Milvus/Faiss）、HNSW索引关键词检索（Sparse/BM25）精确匹配、实体查询分词策略、词频权重调优混合检索通用场景 RR融合或线性加…

#阿里云#重排与优化#向量检索

面试题·检索· 字节

RAG检索方法选型原因？

匹配正文：答案要点区分密集检索与稀疏检索的适用场景说明混合检索的设计动机和融合策略列举至少2-3种具体的检索优化手段能结合业务场景解释选型原因提及重排序（Rerank）在检索流程中的作用核心检索方法 1. 密集检索（Dense Retrieval）基于Embedding模型（如BGE、M3E）将query和文档编码为稠密向量优势：语义理解能力强，能捕获"汽车"和"轿车"的语义关联适用：开放域问答、语义相似度高的场景 2. 稀疏检索（Sparse Retrieval） …

#字节#评估与监控#RAG 检索方法

面试题·检索· 字节

BM25/向量/混合检索选型

匹配正文：答案要点能区分稠密检索与稀疏检索的适用场景理解混合检索的融合策略（如RRF）知道何时需要重排序（Cross-encoder）掌握查询改写/扩展技术（HyDE、多查询）能结合业务场景说明选型依据核心检索方法及选型 1. 向量检索（Dense Retrieval）技术：Embedding模型（BGE、M3E、OpenAI-ada）+ 向量库（Milvus/Faiss）场景：语义匹配、长文档理解、跨表述查询（如"苹果价格"→"iPhone多少钱"）考量：对短查询效…

#字节#检索方法选型#BM25/向量/混合检索选型

面试题·检索· 字节

RAG架构：检索器与重排序策略

匹配正文：答案要点 RAG核心架构三要素（检索器、生成器、融合机制）检索器优化方法（Dense vs Sparse、混合检索、查询改写）向量数据库选型要点（HNSW索引、量化压缩、分布式能力）重排序策略（Cross-Encoder、ColBERT、多阶段漏斗）实际落地中的关键权衡（延迟vs效果、成本vs覆盖） RAG核心架构 RAG = 检索器(Retriever) + 生成器(Generator) + 融合机制用户Query → 检索器 → 相关文档Top-K → 拼接Pr…

#字节#向量库与重排序#RAG 架构设计

面试题·检索· 美团

混合检索为什么优于单一检索?

匹配正文：…要词表里有）无法捕捉语义相似性（"苹果手机"≠"iPhone"）适用：商品名称、法律条文、医疗术语等需要精确匹配的场景。稠密检索（Dense Retrieval）原理：用双塔模型将query和doc编码为低维稠密向量，通过向量相似度召回。常用相似度度量：方法公式特点余弦相似度 cos(θ) = A·B/(‖A‖‖B‖) 归一化后只关注方向，适合语义匹配点积 A·B 保留模长信息，训练时更稳定欧氏距离 ‖A-B‖ 对向量尺度敏感，较少直接用特点：语义泛…

#美团#稀疏稠密检索#混合检索策略

面试题·检索· 阿里

RAG检索器与索引结构怎么选？

匹配正文：一、检索器选择：多路召回稠密检索（Dense）基于Embedding：DPR、Contriever，适合语义匹配优势：跨表述理解；劣势：对罕见实体、精确匹配弱稀疏检索（Sparse） BM25、TF-IDF、SPLADE，适合关键词精确匹配优势：零样本、可解释；劣势：语义鸿沟实践策略：双路召回 + 线性加权或Learned Fusion（如RRF倒数排序融合）二、索引结构优化方法核心思想适用场景 HNSW 图索引，贪心导航百万级，高召回要求 IVF 聚类…

#阿里云#查询重写#RAG 召回优化

面试题·检索· 美团

稀疏稠密与混合检索

匹配正文：稀疏检索（Sparse Retrieval）原理：基于词项空间的高维稀疏向量，经典代表是 BM25 和 TF-IDF。维度 = 词表大小（通常 10万+），向量极度稀疏（大部分为0）相似度度量：词袋匹配 + 词频加权，BM25 公式核心衡量词项与文档的相关性优势：精确匹配能力强、可解释性好、无需训练、对关键词敏感稠密检索（Dense Retrieval）原理：通过编码器（如BERT、双塔模型）将文本压缩为低维稠密向量。维度通常 256-1024，向量稠密相似度…

#美团#稀疏稠密检索#稀疏稠密与混合检索

面试题·检索· 小红书

中文知识库检索选型

匹配正文：…PU即可 serving 缺点：无法捕捉语义相似（"苹果手机"≠"iPhone"）对长尾query、口语化表达效果差二、稠密检索：DPR / ColBERT DPR（Dense Passage Retrieval）双塔结构，query和文档分别编码为固定维度向量用FAISS/ Milvus做ANN近似检索，牺牲少量精度换速度瓶颈：向量压缩后信息损失，细粒度匹配能力弱 ColBERT Late Interaction机制：token-level向量保留到最后一刻交互…

#小红书#稀疏与稠密检索#中文知识库检索选型

面试题·检索· 字节

RAG 检索优化:重排序怎么用?

匹配口述回答：…者用查询扩展，比如 HyDE 的思路，先生成一个伪文档再检索，相当于把query映射到文档空间。这个阶段的核心是减少语义鸿沟，让检索入口更准。但前提是得有足够的算力，而且query改写不能过度，否则会引入噪声，常见失败场景是改写后偏离了用户原意。再一个，检索阶段。我基本不会只用向量检索，而是走[[混合检索]]。你可以这么理解：向量擅长语义相似，但关键词匹配在专有名词、编号、精确短语上更靠谱。所以我会把 [[Dense Retrieval]] 和 [[Sparse Retr…

#字节#混合检索#RAG 检索优化

项目实战·RAG

第 2 章:RAG 整体架构

匹配正文：…手跑通"建库 → 提问 → 召回 → 拼上下文 → 回答" ✓ 看懂 RAG 的四大模块(解析切分入库 / Query 理解 / 检索召回重排 / 上下文生成)各管什么 ✓ 理解在线检索为什么是"双路召回 + 两阶段(粗排→精排)"的漏斗 ✓ 想通一个关键问题:为什么离线要同时建"向量库 + 倒排索引"两套索引 ✓ 建立"模块联动"的全局视角:一处没做好会顺着链路放大本章按三段式组织,不同基础的读者各取所需: 段落给谁看内容占比 🚀 Part 1 · 主线实战 RA…

#RAG#检索#项目实战

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配正文：…换流程分块策略决定嵌入方式短chunk（<512 tokens）：直接用bi-encoder（Sentence-BERT）生成dense vector 长文档：截断取首中尾、滑动窗口聚合，或用层次化嵌入（段落→文档）关键：chunk边界尽量保留语义完整性，避免句子截断嵌入模型选型模型核心原理适用场景 Sentence-BERT 双塔结构+对比学习（NLI数据），生成sentence-level embedding 通用语义相似度，计算快 BERT-based 取…

#字节#文档处理#向量检索

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配正文：…logN)，召回率>95% IVF-PQ：倒排+乘积量化，内存压缩10-20倍，适合海量数据动态更新：增量索引避免全量重建四、检索增强 # 混合检索示例：向量相似度 + BM25关键词 def hybrid_search(query, alpha=0.7): dense_score = vector_db.similarity_search(query) sparse_score = bm25_search(query) return weighted_fusion(de…

#字节#文档处理#向量检索

面试题·评估· 淘天

RAG编码模型评估指标与对比

匹配正文：RAG整体流程三阶段架构：索引阶段：文档切分 → 编码模型生成向量 → 写入向量数据库（如FAISS、Milvus）检索阶段：Query编码 → 向量相似度搜索 → Top-K文档召回生成阶段：Query+检索文档拼接 → LLM生成答案编码模型理解核心架构：双编码器（Bi-Encoder） Query → Encoder_q → 向量q Doc → Encoder_d → 向量d Score = q · d （点积或余弦相似度） DPR（Dense Passag…

#淘天#DPR 与 Contriever#RAG 编码模型评估

面试题·评估· 字节

BGE-M3 vs BM25 怎么选?

匹配正文：核心差异定位下表只比较BGE-M3的dense模式与BM25。BGE-M3官方还支持sparse与multi-vector检索，不能把整个模型等同于单一稠密检索。维度 BGE-M3（稠密向量） BM25（稀疏词频）匹配方式语义相似度（cosine）精确词项匹配优势场景同义改写、跨语言、长语义理解专有名词、短查询、实时性要求高典型短板冷启动、罕见实体、计算开销语义鸿沟、词形变化敏感关键评估指标质量指标 Recall@k：前k个结果命中的相关文档数 / …

#抖音#BGE-M3 vs BM25#RAG 检索方案评估

面试题·评估· 小红书

RAG 有哪些主要缺陷?

匹配正文：… 生成阶段：上下文利用不足、幻觉与知识冲突、长文本建模困难系统层面：延迟高、成本高、冷启动问题改进方案需具体对应上述问题一、检索阶段的缺陷 1. 召回质量不稳定向量检索存在"语义鸿沟"：query与文档的embedding空间不对齐，导致字面相关但语义检索失败稀疏场景（专业术语、ID、代码）dense retrieval效果差改进：混合检索（BM25 + 向量）、query改写/扩展、重排序（Cross-encoder） 2. 上下文切片粒度难把握切分太细丢失全…

#小红书#RAG 局限性#RAG 缺陷

面试题·模型微调· 字节

领域RAG应用链路怎么搭?

匹配正文：…决定是否启用重叠窗口及其长度都作为候选，用同一评测集验证边界证据与冗余成本关键元数据注入：文档来源、发布时间、置信度标签二、检索模块：精准召回 Embedding选型基座模型：GTE-large、BGE-M3通用能力强；领域数据充足时微调（如PubMedBERT医疗版）微调方法：对比学习+难负例挖掘，batch内动态难负例提升显著多路召回架构用户Query → 查询改写（HyDE/扩展）→ 向量检索（Dense）+ 关键词检索（BM25）→ 融合排序 → 精排模…

#字节#领域 RAG#RAG应用搭建