匹配正文：检索层先建立可复现基线：固定语料、标注 query、相关性定义和 Recall@K/MRR/NDCG。检查知识覆盖、解析、分块、元数据与权限，再比较查询改写、稀疏/稠密/混合召回。只有正确文档已经进入候选集时，Cross-Encoder 等重排器才可能改善高位排序；否则应先修召回。 Embedding 微调、难负样本和索引参数必须分别做消融，避免同时改动后无法归因。生成层对候选证据做去重、冲突检测、上下文预算和位置安排。 Prompt 明确证据边界、引用格式和证据不…

#AIlab#检索器优化#RAG 优化

面试题·模型微调· 字节

RAG 工作原理与架构怎么搭?

匹配正文：…er），提升Top-K质量三、关键优化技术 1. 检索侧优化混合检索：向量语义匹配 + 关键词BM25，用RRF融合排序查询改写：HyDE（假设文档嵌入）、Query扩展、多跳检索上下文压缩：LLMLingua、LongLLMLingua，减少token消耗 2. 生成侧优化重排序后Top-K：精排后取3-5条最相关，避免噪声干扰引用溯源：让模型输出引用标记，便于事实核查 3. 工程优化预检索缓存：热门Query结果缓存增量索引：支持实时数据更新，避免全量重建…

#字节#RAG 系统架构#RAG 工作原理

面试题·模型微调· 字节

RAG 技术原理与架构怎么搭?

匹配正文：…卷考试"。标准流程三步走：索引（Indexing）：文档切分→Embedding编码→向量库存储检索（Retrieval）：Query向量化→相似度搜索→Top-K召回生成（Generation）：将检索结果拼入Prompt→LLM生成答案关键洞察：检索质量决定RAG上限，生成能力决定下限。二、系统架构用户Query → Query理解/改写 → 多路检索（向量+关键词+图谱） ↓ 重排序（Rerank）→ 上下文压缩 → 构建Prompt ↓ LLM生成 + …

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#RAG 最佳实践#RAG 技术原理

面试题·模型微调· 字节

领域 RAG 知识库构建

匹配正文：… 推荐方案通用领域 BGE-M3、E5系列垂直领域领域语料微调M3-E或自研多语言多语言专用模型微调要点：用领域内的(query, doc)正例对+In-batch负采样，提升领域语义对齐三、检索策略：多路召回+精排用户Query → 改写/扩展 → 并行召回 ├── 向量检索（语义相似） ├── 关键词检索（BM25，兜底专有名词） └── 图谱检索（如有构建实体关系） ↓ 重排序模型（Cross-Encoder/LLM-based） ↓ Top-K 送入生…

#字节#领域 RAG 知识库构建#领域 RAG 知识库怎么建？数据处理、索引与检索

面试题·模型微调· 商汤科技

RAG 技术流程怎么跑?

匹配正文：…需训练即可利用企业内部知识成本可控比全量微调成本低得多关键优化方向混合检索：向量检索 + 关键词检索（BM25）结合查询改写：HyDE、Query Expansion提升召回率多路召回：摘要、标题、正文分别建索引

#商汤科技#检索生成流程#RAG 技术流程

面试题·模型微调· 字节

领域RAG应用链路怎么搭?

匹配正文：…数据充足时微调（如PubMedBERT医疗版）微调方法：对比学习+难负例挖掘，batch内动态难负例提升显著多路召回架构用户Query → 查询改写（HyDE/扩展）→ 向量检索（Dense）+ 关键词检索（BM25）→ 融合排序 → 精排模型（Cross-Encoder）→ Top-K上下文金融领域加粗体匹配规则（如"第X条"精确命中）重排序用bge-reranker或轻量LLM打分三、生成模块：可控输出 Prompt工程系统角色固化："你是资深医疗顾问，基于…

#字节#领域 RAG#RAG应用搭建

面试题·模型微调· 百度

大模型知识库怎么构建?

匹配正文：…分片增强索引稀疏向量：BM25倒排索引，与稠密向量做混合检索元数据过滤：按时间、来源、标签预过滤五、检索与优化检索流程 Query → Embedding → 向量召回Top-K → 重排序（Cross-Encoder） → 精排Top-N 关键优化查询改写：用LLM扩展同义词、纠错多路召回：向量+关键词+图谱并行重排序：轻量Cross-Encoder（如bge-reranker）提升相关性六、持续维护增量更新：新数据单独建索引，定期合并失效检测：监控检…

#百度#大模型知识库构建#知识库向量化

面试题·模型微调· 字节

RAG 检索噪声 3 大策略

匹配正文：…c的元数据标签（时间、来源、类别）构造难负样本：训练时加入语义相近但答案错误的段落，增强判别能力检索优化层面查询侧改进查询改写（Query Rewriting）：用LLM扩展同义词、澄清指代消解 HyDE（假设文档嵌入）：生成伪答案后再检索，弥合查询-文档语义鸿沟检索策略混合检索：BM25关键词 + Dense向量双路召回，取长补短 Embedding微调：用领域数据对比学习，让向量空间更适配业务后处理层面重排序（Rerank）交叉编码器（Cross-Enc…

#字节#RAG 检索噪声#RAG 数据构建

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…档、法律条款推理能力边界弱于多跳推理、数值计算、跨文档归纳财报分析、科研综述系统耦合复杂检索失败时缺乏优雅降级机制边缘Query、新领域优化方向与方案 1. 检索层：混合检索+重排序向量检索（语义）+ 稀疏检索（BM25，关键词）+ 知识图谱（实体关系）多路召回引入Cross-Encoder精排模型，替代余弦相似度的粗排 2. 查询层：意图理解与改写识别Query类型（事实型/比较型/推理型），动态调整检索策略多Query扩展：对复杂问题拆解为子查询，分…

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调· 字节

RAG 检索与生成流程详解

匹配正文：答案要点离线知识库构建流程（文档解析、分块、向量化、索引存储）在线检索生成流程（Query改写、向量检索、重排序、上下文融合） RAG vs 微调的选择权衡典型应用场景举例典型实现方式离线阶段：知识库构建文档解析：处理PDF/Word/网页等多格式，提取结构化文本文本分块：按语义或固定长度切分，通常256-512 tokens，保留段落边界向量化：用Embedding模型（如BGE、M3E）将chunk转为向量索引存储：存入向量数据库（Milvus、Fais…

#字节#检索生成流程#RAG 实现

面试题·知识图谱· 字节

医疗法律 RAG 合规追溯

匹配正文：…域过滤元数据索引融合策略：RRF（Reciprocal Rank Fusion）或轻量模型打分，避免单路失效 3. 查询理解与改写意图识别：区分"诊断建议"vs"用药禁忌"（医疗）、"法条查询"vs"类案检索"（法律） Query扩展：用领域词典做同义词扩展，如"新冠"→"COVID-19/新型冠状病毒肺炎" 多轮澄清：置信度低时主动追问（如"您指的是刑法第X条还是民法第X条？"） 4. 生成与校验上下文压缩：用LLM摘要长文档，保留关键证据片段引用溯源：强制要求模…

#字节#医疗法律 RAG 合规追溯#医疗和法律 RAG 怎么做安全合规与证据追溯

面试题·知识图谱· 淘天

RAG 系统痛点怎么破?

匹配正文：…语义连贯性改进：引入Rerank模型（如BGE-Reranker）二次精排；混合检索（BM25+向量）降低单一向量空间局限；查询改写（Query Expansion）补全隐含意图 2. 上下文稀释（Context Dilution）表现：有效信息淹没在大量检索结果中，模型注意力分散，关键细节丢失根源：固定Top-K截断，无关文档挤占有效token；长上下文模型对中间位置信息召回弱（Lost in the Middle）改进：动态上下文压缩，用更小模型做摘要过滤；检索结…

#淘天#知识图谱#RAG 痛点

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配正文：…3E）将文本转为稠密向量索引存储：写入向量数据库（Milvus/Pinecone/Elasticsearch） 2. 在线检索 Query向量化：用户问题同样编码为向量相似度搜索：ANN近似最近邻算法（HNSW、IVF），召回Top-K相关文档 3. 增强生成上下文组装：Prompt = 系统指令 + "参考文档：[检索结果]" + 用户问题 LLM生成：模型基于检索到的证据作答，可溯源关键优化点环节常见问题优化手段检索语义不匹配查询改写、HyDE（假设文…

#字节#检索生成流程#RAG 技术原理

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…更新文档即可领域适配：低成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encoder精排）生成侧：上下文窗口压缩、让模型先判断"是否足够回答" 工程侧：缓存热点Query、检索失败兜底策略一句话总结 RAG = 给LLM配个"外挂硬盘"，需要时查资料，不用死记硬背，答不准还能甩锅给知识库。学习建议建议系统学习该知识点

#字节#大模型幻觉#RAG 原理

面试题·RAG· 快手

LLM怎么融入推荐系统？意图理解与生成

匹配正文：…图理解：从匹配到推理传统推荐是"相关度匹配"，LLM可实现"意图推理"：场景传统方法 LLM增强搜索推荐关键词匹配语义改写、需求扩展（"平价手机"→"2000元档骁龙机型"）会话推荐序列建模多轮对话理解，捕捉隐性偏好跨域推荐难以迁移利用LLM的通用知识桥接领域gap 落地形式：LLM作为上游模块，输出意图标签或改写后的query，喂给下游精排模型。三、生成式推荐：直接生成结果两条技术路线：生成Item ID：将item ID视为token，用se…

#快手#LLM推荐系统#LLM 推荐系统

面试题·RAG· 快手

人工干预怎么控制 LLM 生成?

匹配正文：人工干预的三层架构 1. 输入层：前置过滤与引导敏感Query识别：基于规则+小模型做意图分类，拦截违规请求 Prompt改写：自动注入安全约束（如"请确保回答符合法律法规"）上下文注入：RAG场景下动态插入合规知识片段 2. 生成层：过程控制解码策略干预：调整temperature、top-p，或对特定token降权动态停止条件：检测到风险模式时触发early stopping 工具调用约束：Agent场景下限制可调用的工具白名单 3. 输出层：审核与修正规则拦截…

#快手#人工反馈控制#人工干预 LLM 生成

面试题·RAG· 百度

RAG 技术原理与核心组件详解

匹配正文：…l）稠密检索：向量相似度（余弦/IP）稀疏检索：BM25关键词匹配重排序：Cross-Encoder精排，过滤低质结果查询改写：HyDE、Query Expansion提升召回 3. 生成（Generation）上下文拼接：检索结果 + 用户Query → Prompt 大模型生成：GPT-4、文心等生成最终回答引用溯源：输出参考文档编号，增强可信度标准工作流程用户Query → Query理解/改写 → 向量检索（Top-K）→ 重排序 → 上下文组装 → …

#百度#RAG核心组件#RAG 技术原理

面试题·检索· 字节

RAG检索质量提升5法

匹配正文：…AG 检索优化应按检索前、检索中和检索后三个阶段设计，并用独立评测判断每一步是否真的带来增益。 1. 检索前：查询理解与扩展查询改写：消除指代、纠错或补全约束，使 query 自包含。多查询/子问题分解：从不同表述或子任务召回候选，再去重融合。 HyDE：先生成假设文档表示再检索，适合原查询与目标文档表述差异较大的场景，但假设内容偏差也可能带来噪声。伪相关反馈：利用首轮结果扩展词项，需防止错误结果造成 query drift。 2. 检索中：多路召回与排序 BM25 擅…

#字节#重排与优化#RAG 检索质量提升

面试题·检索· 字节

RAG Retriever 工作流程详解

匹配正文：1. 查询预处理查询改写：识别用户真实意图，补全省略信息（如"这个多少钱"→结合上下文补全商品名） HyDE（假设文档嵌入）：让LLM生成伪答案再向量化，解决查询-文档语义鸿沟查询扩展：同义词扩展、子问题分解（如Multi-Query） 2. 向量化表示模型选型：通用场景用BGE/M3-Embedding，垂直领域需微调关键细节：截断长度、是否添加指令前缀（如"Represent this sentence for retrieval"）动态更新：用户反馈回流，做对…

#字节#重排与优化#RAG Retriever 工作流程

面试题·检索· 高德

向量数据库怎么支撑 Agent 记忆?

匹配正文：…=5） → 上下文组装（按时间序/相关度融合）关键优化分块策略：256-512 tokens为甜蜜点，重叠滑动窗口防断句查询改写：利用LLM扩展同义表达，缓解query-doc语义鸿沟反馈闭环：记录"检索→使用→任务成功"链路，强化正例embedding 四、实战提升召回效果问题措施长对话上下文丢失引入摘要记忆（hierarchical memory）：短期raw对话 + 长期summarized记忆多轮指代消解失败检索时拼接历史3-5轮作为expande…

#高德#重排与优化#文档处理

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…IO 优化方案：索引层： HNSW换IVF-PQ（牺牲1-2%召回换10x速度）；分片+路由缓存层：热点Query结果缓存（Query哈希去重）计算层： GPU加速向量计算；Embedding模型轻量化（MiniLM级）影响：延迟从500ms→50ms，但需增加缓存成本、可能损失长尾Query效果瓶颈2：检索相关性不足（Top-K命中率<60%）根因： Query-文档语义鸿沟、Embedding训练域不匹配优化方案：查询改写： HyDE（用LLM生成伪文…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 小红书

RAG 检索偏差怎么系统性解决?

匹配正文：…相似≠事实相关，容易召回表面相似但实质无关的文档二、系统性解决方案 1. 检索优化层手段具体做法查询扩展用LLM生成同义改写、子问题分解，多路检索融合混合检索向量+关键词+稀疏检索（BM25）互补，降低单路失效风险索引优化语义滑窗切分、关键实体提取、文档质量预过滤 2. 重排序层向量重排：用更强的embedding模型（如gte-large）二次精筛交叉编码器：ColBERT/BGE-reranker计算query-doc细粒度交互，捕捉字面匹配信号动…

#小红书#美团#重排与优化

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配正文：RAG系统五阶段工作流程 1. 查询理解与改写技术要点：Query扩展（同义词、HyDE生成假设文档）、意图识别、多轮对话历史融合质量影响：查询语义漂移直接导致检索偏差，是RAG失效的首要环节 2. 文档检索（召回阶段）方法适用场景实现要点向量检索（Dense）语义匹配、长尾查询 Embedding模型选择（BGE/M3E）、向量数据库（Milvus/Faiss）、HNSW索引关键词检索（Sparse/BM25）精确匹配、实体查询分词策略、词频权重调优混…

#阿里云#重排与优化#向量检索

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配正文：检索环节优化查询侧优化：Query改写（HyDE生成假设文档）、Query扩展（多视角改写）、意图识别路由到不同知识库索引侧优化：混合检索（向量+关键词BM25）、多粒度索引（文档/段落/句子）、Embedding微调（领域适配）召回策略：多路召回（向量+关键词+图谱）、MRR多轮迭代召回重排序环节优化精排模型：Cross-Encoder（精度高但慢）、ColBERT（延迟交互，效率平衡）多阶段漏斗：向量召回Top100 → BM25粗排 → Cross-Enco…

#字节#RAG迭代优化#RAG 优化