匹配正文：…结构破坏，表格/代码等丢失语义歧义冲突：检索结果相互矛盾，模型无法判断分层优化策略一、提示工程（最快见效）策略具体做法重排序注入用Cross-Encoder对检索结果二次排序，优先放置高置信度文档上下文压缩用LLM提取关键片段（如LLMLingua），或只保留与问题相关的句子结构化提示明确标注[Document 1] [Document 2]，强制模型引用来源指令强化添加"若文档不足以回答，请明确说明"等约束，抑制幻觉二、上下文建模（架构层面）动…

#上下文压缩#生成调优#RAG 生成优化

面试题·模型微调

生成质量差怎么调优?

匹配正文：…输出样例角色设定：赋予模型特定身份（"你是严谨的医学助手"）提升一致性 2. 上下文处理优化问题技术手段文档过长/噪声多重排序（Rerank）：用Cross-Encoder对检索结果二次排序上下文窗口溢出语义压缩：用LLM提取关键句，或滑动窗口分段处理多文档冲突冲突检测+源标注：要求模型标注引用来源，显式处理矛盾 3. 模型微调（成本较高但效果显著） SFT：用领域高质量QA对微调，强化"基于文档回答"的指令遵循能力 RLHF/DPO：针对连贯性、忠实度训练…

#RAG 生成质量#指令遵循#生成模块调优

面试题·模型微调· 百度

怎么提升对话模型事实一致性?

匹配正文：… 检索环节混合检索：向量相似度 + BM25关键词 + 知识图谱路径查询改写：HyDE（假设文档嵌入）、子查询分解增强环节重排序：Cross-encoder精排，过滤噪声文档上下文压缩：只保留与问题相关的文档片段生成环节引用生成：强制模型标注信息来源，便于溯源和人工审核实际权衡场景推荐方案高频、事实稳定预检索+缓存，减少实时检索延迟时效性强实时RAG + 搜索引擎API 专业领域领域知识图谱 + 微调混合高 stakes 场景人机协同：模型生…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#百度#模型微调#评估与监控

面试题·知识图谱· 字节

向量索引 vs 分层存储怎么选？

匹配正文：…状结构关键信息提取：用SLM提取"用户偏好、决策结论、待办事项"结构化存储 3. 检索优化两阶段检索：向量召回Top-K → 重排序（Cross-Encoder）→ 上下文截断查询扩展：将当前Query扩展为"近期主题+用户偏好+时间约束"的复合查询缓存热点：高频访问的用户画像常驻内存 4. 写入优化异步批处理：记忆写入走消息队列，避免阻塞主链路增量Embedding：仅对新内容编码，避免全量重建索引工程权衡点延迟vs召回：实时场景用近似检索（HNSW），离线…

#字节#Agent 长期记忆#向量索引

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encoder精排）生成侧：上下文窗口压缩、让模型先判断"是否足够回答" 工程侧：缓存热点Query、检索失败兜底策略一句话总结 RAG = 给LLM配个"外挂硬盘"，需要时查资料，不用死记硬背，答不准还能甩锅给知识库。学习建议建议系统学习该知识点

#字节#大模型幻觉#RAG 原理

面试题·RAG· 字节

医疗法律RAG架构怎么搭？

匹配正文：…关键词检索：BM25 + 领域同义词词典（如ICD-10编码映射）结构化检索：SQL/图查询针对法条层级、药品属性精排与过滤 Cross-Encoder重排序时效性过滤（法律：优先现行有效；医疗：优先近3年指南）权威性分级（法规 > 专家共识 > 文献）生成模块 Prompt设计你是{领域}助手，基于以下参考资料回答： [检索片段，带来源标注] 约束：1) 不确定时明确说明 2) 引用具体条款/文献 3) 禁止编造安全机制拒答策略：超范围问题（如具体诊疗建议）…

#字节#专业领域RAG#RAG 系统设计

面试题·RAG· OPPO

查询文档相关性怎么算?

匹配正文：…、Contriever，采用双塔架构——编码器分离，可离线建索引，毫秒级响应三、深度学习精排：BERT 及其变体交互式架构（Cross-Encoder）拼接 [CLS] Query [SEP] Doc [SEP] 输入 BERT 取 [CLS] 输出过 MLP 得相关性分数效果最优但计算昂贵，仅用于 Top-K 重排优化方向： ColBERT：延迟交互，token 级相似度，平衡效率与效果 Poly-encoder：多向量表示查询，兼顾速度与精度四、RAG 场景…

#OPPO#查询文档相关性#语义匹配

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：…事实性问答、内部文档查询等单跳、确定性场景 2. Advanced RAG（优化架构）架构：检索前（查询改写/扩展）→ 检索中（重排序/混合检索）→ 检索后（上下文压缩/摘要）→ 生成核心改进：查询优化：HyDE（假设文档嵌入）、Query2Doc 精排策略：Cross-encoder重排、多路召回融合上下文处理：Recomp压缩、选择性上下文适用：企业知识库、产品手册等噪声多、需精排的场景 3. Modular RAG（模块化/Agent化）架构：检索与生成解耦…

#淘天#RAG架构分类#RAG 分类

面试题·RAG· 百度

RAG 技术原理与核心组件详解

匹配正文：…据库 + 可选的倒排索引混合 2. 检索（Retrieval）稠密检索：向量相似度（余弦/IP）稀疏检索：BM25关键词匹配重排序：Cross-Encoder精排，过滤低质结果查询改写：HyDE、Query Expansion提升召回 3. 生成（Generation）上下文拼接：检索结果 + 用户Query → Prompt 大模型生成：GPT-4、文心等生成最终回答引用溯源：输出参考文档编号，增强可信度标准工作流程用户Query → Query理解/改写 …

#百度#RAG核心组件#RAG 技术原理

面试题·RAG· 字节

上下文错误时怎么保证输出准确?

匹配正文：…交叉验证策略模型置信度校准方法显式不确定性表达人机协同兜底机制核心策略：分层防御体系 1. 输入层：上下文质量过滤相关性重排序：用Cross-Encoder对检索结果二次打分，过滤低相关片段时效性校验：标记知识库文档的更新时间，优先使用最新版本来源可信度加权：给权威来源（官方文档、论文）更高权重，用户UGC内容降权 2. 推理层：模型行为约束引用锚定：强制模型在生成时标注信息来源，如"根据[文档A]..."，便于追溯矛盾检测提示：在Prompt中显式要求模型…

#字节#错误上下文处理#RAG 上下文错误

面试题·检索· 字节

医疗法律 RAG 架构关键环节

匹配正文：答案要点领域知识结构化与分层存储设计多路召回与重排序策略生成器领域适配与约束机制幻觉控制与可解释性保障系统全链路的评测与迭代闭环整体架构用户Query → 意图识别 → 多路检索 → 重排序 → 上下文组装 → 领域生成 → 后校验 → 输出一、数据预处理（领域知识工程）核心挑战：专业文档结构复杂、术语密集、时效性强层级处理策略文档解析医疗：DICOM/HL7标准解析、病历结构化；法律：合同条款拆分、法条引用识别 Chunk策略语义切分（基于BER…

#字节#领域RAG架构#专业领域 RAG

面试题·检索· 高德

向量数据库怎么支撑 Agent 记忆?

匹配正文：…混合多阶段检索 pipeline 粗排（向量相似度，Top-K=100） → 元数据过滤（时间范围、会话ID、标签） → 精排（重排序模型/交叉编码器，Top-K=5） → 上下文组装（按时间序/相关度融合）关键优化分块策略：256-512 tokens为甜蜜点，重叠滑动窗口防断句查询改写：利用LLM扩展同义表达，缓解query-doc语义鸿沟反馈闭环：记录"检索→使用→任务成功"链路，强化正例embedding 四、实战提升召回效果问题措施长对话上下文丢失 …

#高德#重排与优化#文档处理

面试题·检索· 哔哩哔哩

精排精度高，为何不跳过召回粗排？

匹配正文：…密向量 ANN、规则召回用索引快速取得高召回候选粗排（可选）双塔分数、轻量模型、业务特征在较低成本下进一步压缩候选精排 Cross-Encoder 或其他重交互模型对小候选集做精细相关性排序候选数没有通用的“千、百、十”标准，应根据语料规模、召回曲线、模型吞吐、并发和延迟预算选择。ANN、倒排索引和其他召回结构的复杂度也依具体实现与数据分布而定，不能统一写成 O(1) 或 O(logN)。系统边界与验证召回负责控制计算量并保证相关文档进入候选集；精排只能重排…

#哔哩哔哩#两阶段排序#召回粗排精排

面试题·检索· 高德

记忆型Agent为何用向量数据库?

匹配正文：…HNSW索引快速召回Top-K（K=50~100）距离度量：余弦相似度（归一化后）或点积阈值过滤：低于0.7的直接丢弃精排（重排序）：交叉编码器（Cross-encoder）：精度高但慢，用于Top-20重排轻量方案：ColBERT late interaction 或学习排序模型关键优化时间衰减：相似度分数 × exp(-λ×时间差)，优先近期记忆实体预过滤：先用关键词/NER匹配缩小候选集，再向量检索查询扩展：用LLM改写用户问题，生成多个检索quer…

#高德#Agent#向量数据库 Agent

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配正文：…理解：query改写、扩展（HyDE生成伪文档）、意图识别向量检索：ANN近似最近邻搜索，召回Top-K（通常20-100个）重排序（Rerank）：用Cross-Encoder（如BGE-Reranker）精排，选出最相关的3-5个送入LLM 三、生成阶段上下文拼接：将检索结果按相关性排序，拼接为上下文 Prompt工程：明确指令"基于以下参考信息回答，若信息不足请说明" 答案生成：LLM生成最终回复，可加入引用溯源关键优化点环节常见问题解决思路检索召回不…

#AIlab#RAG工作流#RAG 技术流程

面试题·检索· 快手

RAG 延迟与准确率优化

匹配正文：…优化混合检索：向量+关键词+知识图谱多路召回，RRF融合查询改写：HyDE生成伪答案再检索，解决query-doc语义gap 重排序精排：Cross-encoder细粒度打分，过滤低质结果 Self-RAG：生成时主动判断是否需要补充检索，避免过度检索 Agent层优化规划阶段用轻量模型，执行阶段再用大模型工具结果结构化缓存，相同参数直接复用

#快手#RAG延迟优化#RAG 延迟与准确率优化

面试题·检索· AIlab

RAG流程优化：三大层面策略

匹配正文：…回意图识别：区分事实查询/摘要/对比类问题，路由到不同索引检索策略混合检索：向量相似度 + BM25关键词，RRF融合排序重排序（Rerank）：Cross-encoder精排，如bge-reranker，Top-K从100→20 多路召回：向量库+图谱+传统数据库并行检索二、生成层优化上下文处理上下文压缩：LLM摘要过滤冗余，或训练专用压缩模型引用溯源：要求模型标注答案来源，便于事实核查动态截断：按相关性分数加权拼接，非简单Top-K截断提示工程角色设…

#AIlab#RAG流程优化#RAG 优化

面试题·检索· 快手

RAG 延迟准确率根因

匹配正文：…延迟高：用户发起请求后需等待检索完成才能开始生成流式输出卡顿：检索与生成串行执行，破坏实时体验长尾超时：复杂查询触发多轮检索或重排序时超时根本原因链路级联：向量检索 → 重排序 → 上下文组装 → 生成，各环节串行叠加重排序瓶颈：Cross-encoder精度高但延迟大（百毫秒级），成为关键路径上下文膨胀：检索Top-K文档后，长上下文导致Prefill阶段计算量激增准确率挑战表现召回不足：用户问题与文档语义不匹配，漏掉关键信息噪声干扰：检索到相关但非答案…

#快手#RAG延迟与准确率#RAG 延迟准确率根因

面试题·检索· 百度

RAG Query 改写方法

匹配正文：…标注来源 - 冲突处理：若资料矛盾，列出不同观点并说明依据工程技巧：动态截断：按相关性分数倒序，token 预算留给高分文档重排序注入：把 Cross-Encoder 分数作为 metadata 放入 prompt，引导模型关注高置信片段负例过滤：对检索结果做置信度阈值过滤，低分文档直接丢弃而非放入上下文踩坑经验改写过度导致语义漂移：加一致性校验（改写 query 与原 query 的 embedding 相似度阈值）长文档截断丢失关键信息：检索时做段落级切分，…

#百度#小鹏#美团

面试题·检索· 高德

RAG增强与生成如何衔接？

匹配正文：…键词检索：BM25等传统方法补充，确保专有名词命中结果融合：RRF（Reciprocal Rank Fusion）合并两路结果重排序优化：用Cross-Encoder（如BGE-Reranker）精排Top-K候选，提升相关性三、增强与生成阶段上下文拼接：按相关性排序检索结果，拼入Prompt模板提示工程：明确指令"基于以下参考资料回答"，约束模型引用来源生成控制：引用溯源：要求模型标注信息来源块拒答机制：检索置信度低时触发"信息不足"回复多轮优化：检索失…

#高德#RAG#RAG 工作流程

面试题·检索· 百度

RAG 工作原理与核心组件

匹配正文：…密检索：语义匹配好，但可能漏关键词稀疏检索（BM25）：精准匹配关键词，补充稠密检索混合检索：稠密+稀疏融合，线性加权或RRF重排 3. 生成阶段上下文组装：检索结果 + 用户Query构造Prompt 大模型生成：基于提供的上下文作答，典型Prompt模板包含"仅根据以下信息回答，不知道就说不知道" 关键优化点环节优化手段检索质量查询改写（HyDE）、多路召回、重排序（Cross-Encoder）上下文利用长上下文压缩、信息去重、相关性过滤端到端 Sel…

#百度#RAG核心组件#RAG 工作原理

面试题·检索· 百度

RAG 技术实现流程怎么走?

匹配正文：…点查询改写 Query扩展、同义词补全、意图澄清（必要时主动反问）粗召回 Top-K向量检索（K=100~1000）精排序 Cross-encoder重排（如BGE-Reranker），筛选Top-5~10 过滤策略相关性阈值截断、元数据过滤（如只查最近1年文档）四、上下文构建与生成上下文组装：按相关性排序，标注来源；超长时采用摘要压缩或多轮检索 Prompt设计：明确指令"基于以下参考信息回答，若信息不足请说明" 生成优化：引用溯源：要求模型输出引用标记 [d…

#百度#文档切分与检索#RAG 实现流程

面试题·检索· 百度

RAG 工作流程与关键技术组件

匹配正文：…户query可能需改写/扩展（HyDE、Query2Doc）向量检索：Top-K相似度召回，常用ANN算法（HNSW、IVF）重排序（Rerank）：用Cross-Encoder精排，提升相关性上下文组装：将检索结果注入Prompt模板，限制在上下文窗口内 LLM生成：模型基于检索上下文作答二、关键技术组件组件作用常用方案 Embedding模型语义编码 BGE-large、GTE、OpenAI text-embedding 向量数据库高效相似度搜索 Mil…

#百度#RAG技术架构#RAG 工作流程

面试题·检索· 百度

RAG 文档处理与检索策略怎么搭？

匹配正文：… → Embedding编码 → 向量相似度检索（Top-K） ↓ 关键词BM25检索 → 结果融合（RRF加权） ↓ 精排模型（Cross-Encoder重排序）→ 最终Top-N片段关键优化点： Query改写：扩展同义词、澄清指代多路召回：向量+关键词+图谱并行重排序：轻量Cross-Encoder比双塔更准，但 latency 高三、生成集成层上下文组装：检索片段按相关性排序，拼接为上下文控制总长度（通常占模型上下文30%-50%） Prompt设计要点…

#百度#RAG检索策略#RAG 系统架构