匹配正文：…主题实体集合, 用户意图, 未解决问题, 已确认事实} 每轮用轻量模型抽取状态更新状态向量化后参与检索相似度计算 2. 分层检索策略层级内容权重动态调整当前轮用户最新query 意图切换时↑ 近轮上下文前2-3轮关键信息追问场景↑ 全局摘要历史对话压缩长对话时↑ 3. 查询重写与扩展共指消解：将"它"、"这个"替换为具体实体意图感知扩展：根据对话状态补充隐含条件时间衰减：早期轮次信息权重指数下降 4. 检索结果重排序最终分数 = α·语义相似度 +…

#蚂蚁#RAG 多轮对话#知识遗忘

面试题·评估· 字节

专业领域 RAG 链路怎么搭?

匹配正文：…疗场景保留"主诉-检查-诊断"完整上下文元数据标注：标注文档来源、时效性、效力等级（如法律条文效力层级）二、索引构建双轨索引策略：类型用途实现稠密向量索引语义匹配领域微调Embedding（如医疗用PubMedBERT）稀疏关键词索引精准匹配 BM25 + 医学/法律专业词表知识图谱增强：抽取"疾病-症状-药品"或"法条-案例-解释"关系，构建实体链接三、检索策略多路召回 → 精排 → 重排：召回层：向量检索（Top-K）+ 关键词检索 + 图谱…

#字节#RAG 全链路#RAG 技术链路

面试题·评估

RAG 检索语义相似但无关怎么解?

匹配正文：…是"苹果"），但用户意图完全不同核心矛盾：Embedding模型训练目标（语义相似）与RAG业务目标（任务相关）存在错位。解决策略（分层处理） 1. 查询侧优化查询重写（Query Rewriting）：用LLM扩展/澄清用户意图，如"苹果→苹果公司/Apple Inc." HyDE（假设文档嵌入）：让模型先生成假设答案，再用答案去检索 2. 检索侧优化多路召回：BM25 + 向量检索 + 关键词匹配，互补覆盖重排序（Rerank）：用Cross-Encoder等交…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#Embedding#Rerank#RAG 检索相关性

面试题·评估· 虾皮

大模型怎么用于搜索检索?

匹配正文：…如"苹果"→水果/公司）检索召回层向量检索 + 稀疏检索（BM25）+ 知识图谱生成稠密向量（bi-encoder）精排/重排层结果重排序、去重、过滤 Cross-encoder 打分、多任务融合生成输出层答案摘要、直接回答、多源整合生成式摘要、引用溯源关键优化点混合检索：向量（语义）+ 倒排（精确匹配）+ 图谱（实体关系），召回率提升30%+ 查询路由：简单query走传统搜索，复杂query走大模型深度处理缓存策略：高频query的生成结果缓存，降低…

#虾皮#大模型搜索检索#搜索检索技术方案

面试题·评估

检索准但生成差，怎么调优？

匹配正文：…检测）：答案是否被上下文支持相关性：是否回答用户问题而非泛泛而谈完整性：是否覆盖上下文中的关键信息二、检索准确但生成差的优化策略 1. 上下文利用优化上下文压缩/重排序：用LLM或轻量模型对检索文档去冗余、排优先级多文档融合：设计结构化Prompt（如"文档[1]说...文档[2]说..."），明确标注来源动态上下文窗口：根据问题复杂度调整送入LLM的文档数量 2. 生成模型/推理优化微调策略：用领域数据SFT，强化"基于给定上下文回答"的指令遵循能力 Prom…

#上下文压缩#生成调优#RAG 效果诊断

面试题·模型微调· 美团

RAG检索偏差怎么缓解?

匹配正文：…点击/转化反馈，用对比学习微调embedding模型（LoRA轻量更新）关键：混合采样新旧数据，防止灾难性遗忘 4. 分布感知的重排序训练阶段引入领域标签，推理时检测query分布，动态调整检索策略监控新文档的检索占比，低于阈值时触发告警落地关键监控看板：新文档命中率、头部结果多样性指标 A/B实验：灰度验证策略效果，避免全量风险学习建议建议掌握RAG基础架构，理解检索偏差成因，学习持续学习、向量重排序、数据分布监控等技术，结合实际案例思考系统优化。

#美团#模型微调#RAG检索偏差

面试题·模型微调· 联通

RAG/蒸馏/微调怎么选?

匹配正文：… 主流技术方法 1. 检索增强（RAG）核心思路：外接知识库，将生成约束在检索到的证据上标准流程：查询改写 → 向量检索 → 重排序 → 上下文增强生成关键优化：多路召回、HyDE（假设文档嵌入）、Self-RAG（反思token）局限：检索失败时幻觉反而加重，需配合置信度校准 2. 微调策略事实性SFT：用高质量QA对训练，强化"不知道就拒绝" 偏好对齐：RLHF/DPO中引入事实性奖励，惩罚幻觉输出知识蒸馏：从大模型蒸馏事实性强的推理链到小模型 3. 推理时干…

#联通#大模型幻觉缓解#检索增强

面试题·模型微调· 高德

Agent 记忆怎么用向量库?

匹配正文：…德场景示例：用户说"明天去机场，要早到"，拆分为[时间意图:明天] [地点:机场] [偏好:早到]，便于后续组合检索。索引与检索策略索引结构 HNSW为主流选择，平衡速度与召回按用户ID分区，避免跨用户污染时间戳作为辅助索引，支持范围过滤三层检索策略相似度召回：向量检索Top-K（如50个候选）时序衰减加权：score = similarity × exp(-λ·time_gap)，λ控制遗忘速度重要性重排序：用轻量模型打分，考虑：是否包含用户明确确认的信息…

#高德#Agent#向量检索

面试题·模型微调· 美团

向量检索怎么保准又保真?

匹配正文：答案要点 Embedding模型选型与微调多路召回与混合检索策略重排序（Rerank）机制查询理解与改写检索结果评估与迭代优化 1. Embedding层优化模型选型：根据领域特点选择模型（通用场景用BGE/M3E，垂直领域用微调模型）领域适配：用业务数据对Embedding模型做对比学习微调，缩小语义鸿沟动态更新：商品/内容Embedding随属性变化及时刷新，避免语义漂移 2. 多路召回策略召回方式适用场景向量召回语义相似，理解用户意图关键词/BM…

#美团#向量检索准确性#向量检索相关性

面试题·模型微调· 字节

RAG 工作原理与架构怎么搭?

匹配正文：答案要点 RAG核心流程：索引-检索-生成三阶段向量检索与语义匹配原理关键优化技术（分块策略、重排序、混合检索） RAG vs 微调的选择场景实际落地中的挑战与解决方案一、RAG核心工作原理 RAG = 检索（Retrieval）+ 生成（Generation），解决大模型知识时效性和幻觉问题。三阶段流程：索引阶段：文档切分 → Embedding编码 → 向量数据库入库检索阶段：用户Query向量化 → 相似度搜索 → Top-K召回生成阶段：Query +…

#字节#RAG 系统架构#RAG 工作原理

面试题·模型微调

RAG检索相关但生成差原因

匹配正文：答案要点区分"检索相关"与"对生成有用"的差异，识别信息过载/碎片化问题提示工程层面：重排序、上下文压缩、指令明确性上下文建模：长上下文窗口利用、多文档融合策略、噪声过滤模型微调：领域适配SFT、检索感知训练、负样本挖掘系统性思维：端到端优化而非单点修复核心诊断：检索≠可用检索相关但生成差，本质是检索结果与生成需求不对齐。常见原因：信息过载：Top-K过多导致噪声淹没信号，或关键信息被截断碎片化：多个文档各含部分答案，模型缺乏整合能力格式混乱：原始文档结构…

#上下文压缩#生成调优#RAG 生成优化

面试题·模型微调

生成质量差怎么调优?

匹配正文：答案要点区分检索问题与生成问题，确认根因在生成侧 Prompt工程优化（指令明确化、Few-shot示例、角色设定）上下文处理策略（重排序、压缩、截断优化）模型层面的SFT/RLHF微调生成控制参数与后处理校验机制问题定位首先确认是纯生成问题（检索结果已准确），而非检索-生成不匹配。常见症状：内容拼凑感强、逻辑断裂、答非所问。核心优化策略 1. Prompt工程（零成本首选）指令结构化：明确输出格式（"请分三点回答"）、约束条件（"仅基于提供的文档"） Few…

#RAG 生成质量#指令遵循#生成模块调优

面试题·模型微调

生成模型回答不准怎么调?

匹配正文：…盾/冗余 → 上下文组织问题模型忽略检索内容、自由发挥 → 注意力对齐问题模型无法理解专业领域知识 → 领域适配问题分层优化策略 1. 提示工程（零成本）显式指令：强制要求"基于以下材料回答，禁止推测"，加入引用标记要求 Few-shot示例：给2-3个"检索片段→忠实回答"的正例角色设定：限定为"严谨助手"，降低创造性温度 2. 上下文组织（低成本）问题策略片段过长递归摘要、关键句提取多片段冲突重排序（RRF/学习式）、冲突检测后分段生成位置偏见（L…

#生成模型调优#上下文利用#RAG 生成不准确

面试题·模型微调· 百度

怎么提升对话模型事实一致性?

匹配正文：答案要点能区分幻觉产生的根源（知识边界 vs 推理错误）掌握RAG的核心架构与检索策略优化理解SFT/RLHF在事实性对齐中的作用知道推理阶段如何通过后处理提升准确性能结合实际场景给出权衡方案一、模型架构层面知识解耦设计将"语言生成"与"事实存储"分离，如KGLM、RETRO等架构，显式引入外部记忆模块稀疏注意力机制，让模型学会何时查询外部知识而非依赖参数记忆工具调用能力通过Function Calling架构，让模型自主判断需调用的工具（计算器、搜索引…

#百度#模型微调#评估与监控

面试题·Prompt· 脉脉

Prompt 怎么系统设计与优化?

匹配正文：…Markdown/固定字段），便于下游解析关键技巧：关键指令后置（近因效应）、敏感约束重复强调、使用分隔符区分上下文。二、进阶策略：从静态到动态场景策略示例复杂推理 CoT/ToT "请逐步思考：①分析条件 ②列出公式 ③计算验证" 低资源任务少样本学习 3-5个输入-输出对，覆盖边界case 多轮交互动态上下文压缩保留摘要+关键实体，丢弃过时细节 RAG场景检索结果重排序按相关性打分注入，标注来源可信度三、评估与迭代体系三层验证：规则层：正则/J…

#脉脉#评估与监控#Agent

面试题·Prompt· 字节

RAG Generator Prompt 整合原理

匹配正文：一、上下文整合策略检索结果预处理按相关性得分重排序，优先放置高置信度文档动态截断：根据模型上下文窗口预留20%给系统提示和用户查询，剩余分配给检索文档去重与冲突检测：相似度过高的文档合并，矛盾内容标记供模型判断上下文格式化 [Document 1] 来源: {source_id} {content} [Document 2] ... 二、Prompt模板设计三层结构系统指令：定义角色（"你是专业助手"）、任务目标、约束条件（"仅基于提供文档回答，不确定时说明"）…

#字节#Prompt工程#RAG Generator Prompt

面试题·Prompt· 字节

RAG Generator 怎么构造 Prompt?

匹配正文：…和输出契约。Prompt 只能帮助模型使用证据，不能弥补错误召回，也不能保证固定幅度的准确率提升。构造步骤筛选与去重：按检索和重排结果筛选候选，保留来源、版本、权限和时间；不要用未经校准的统一阈值。信任边界：将检索文本视为不可信数据，用清晰分隔符包裹，禁止其中内容覆盖系统指令。排序与预算：根据任务、证据依赖和“lost in the middle”风险安排顺序，预留生成与工具调用空间。输出契约：要求答案断言关联引用；证据不足或冲突时返回结构化的不确定状态。校验：检…

#字节#Prompt工程#RAG Generator Prompt

面试题·Prompt· 字节

RAG 生成阶段 Prompt 怎么构建?

匹配正文：…tant: {prev_a} 当前可参考的新资料： {retrieved_context} 当前问题：{current_q} 进阶策略策略作用动态Few-shot 从检索结果中挑1-2个高质量问答对作为示例注入上下文重排序把最相关的文档放Prompt末尾（近因效应）置信度提示要求模型输出"确定性分数"或"需澄清"标记角色隔离用XML标签<context> <question>严格分隔字节场景的特殊考量短内容平台：检索结果可能是碎片化评论，Prompt需强…

#字节#Prompt工程#RAG Prompt 构建

面试题·RAG· 字节

RAG 检索模块怎么提升相关性?

匹配正文：…rid Search）原理：融合向量语义检索 + 关键词匹配（BM25），解决向量检索对专有名词、ID类信息召回不足的问题融合策略：线性加权 score = α·dense_score + (1-α)·sparse_score，或RRF倒数排序融合 2. 重排序（Re-ranking）原理：用Cross-encoder等交互式模型对初筛结果精细打分。双塔模型（Bi-encoder）分离编码查询和文档，精度受限；Cross-encoder拼接输入做交互注意力，相关性判断更…

#字节#Query Rewriting#RAG 检索模块

面试题·RAG· 字节

RAG 检索增强技术有哪些？

匹配正文：…uery改写成多个不同表述，分别检索后合并查询分解复杂问题拆成子问题，如"比较A和B的优缺点"→分别检索A、B再综合二、检索策略增强（多路召回）方法核心思想适用场景混合检索向量相似度 + BM25关键词匹配，加权融合专业术语、专有名词多的场景稀疏-密集结合 SPLADE等学习式稀疏向量，弥补纯向量盲区长尾实体、ID类查询图检索基于知识图谱的实体关系扩展需要推理关联的复杂问题三、精排优化（重排序） Cross-Encoder重排：用交互式模型（如b…

#字节#HyDE#RAG 检索质量

面试题·RAG· 美团

动态增量更新怎么防检索偏差?

匹配正文：…同词汇语义变化（如"新冠"在2019 vs 2023的含义）索引碎片化：局部更新导致向量空间密度不均，近邻搜索出现"断层" 缓解策略策略核心思路适用场景版本隔离新旧文档分索引存储，检索时多路召回+重排序融合模型升级、大规模更新渐进式重嵌入设定阈值触发全量重计算（如30%文档更新），期间双索引并行高频小批量更新分布对齐约束增量文档用旧模型编码后，经线性变换对齐到新空间必须混存、资源受限时间戳加权检索分数引入时间衰减因子，降低旧文档优先级时效性敏感…

#美团#增量更新检索偏差#RAG 知识库更新

面试题·RAG· 字节

上下文错误时怎么保证输出准确?

匹配正文：答案要点识别上下文错误的检测机制多源交叉验证策略模型置信度校准方法显式不确定性表达人机协同兜底机制核心策略：分层防御体系 1. 输入层：上下文质量过滤相关性重排序：用Cross-Encoder对检索结果二次打分，过滤低相关片段时效性校验：标记知识库文档的更新时间，优先使用最新版本来源可信度加权：给权威来源（官方文档、论文）更高权重，用户UGC内容降权 2. 推理层：模型行为约束引用锚定：强制模型在生成时标注信息来源，如"根据[文档A]..."，便于追溯矛…

#字节#错误上下文处理#RAG 上下文错误

面试题·RAG

RAG 检索准但回答差怎么调?

匹配正文：…回答，不确定则拒绝" 3. 生成阶段问题模型本身指令遵循能力不足温度参数过高导致幻觉未针对RAG场景做SFT对齐系统性调优策略层级具体措施检索后处理重排序（Rerank）优化文档顺序；冲突检测与摘要融合；上下文压缩（如LLMLingua）提示优化添加"基于以下文档回答"前缀；明确引用格式要求；设置拒绝回答的兜底策略模型层面 RAG专用SFT数据训练；调整temperature/top-p；尝试更大的上下文窗口模型系统架构引入Self-RAG或Corr…

#上下文组织#生成质量调优#RAG 生成质量差

面试题·检索· 字节

RAG检索质量提升5法

匹配正文：…实体和编号匹配，稠密向量擅长语义近似，可用 RRF、归一化加权或学习排序融合。随后只对有限候选使用 Cross-Encoder 等重排模型。具体候选数由 Recall、nDCG、吞吐和延迟预算决定，不使用固定通用值。 3. 检索后：上下文选择对候选做权限和元数据过滤、去重、证据片段抽取、上下文压缩与排序，保留引用关系。块大小和压缩策略取决于文档结构、查询类型与模型窗口，不能用统一的 256/1024 token 规则。压缩还可能丢失限定条件，需单独评测证据保留率。 4. 动…

#字节#重排与优化#RAG 检索质量提升