匹配正文：…ng模型选型与微调（通用vs领域模型、对比学习微调）检索架构设计（多路召回、重排序、查询改写）生成环节优化（Prompt工程、上下文压缩、引用溯源）端到端评估体系（检索准确率、生成忠实度、领域专家评估）一、数据准备：领域知识工程化文档解析与结构化非结构化：PDF/Word用Unstructured/MinerU解析，保留标题层级、表格结构多模态：医疗影像报告需OCR+结构化提取，金融财报表格转Markdown 领域标准化：建立术语词典（如ICD-10编码、法律法…

#字节#领域 RAG#RAG应用搭建

面试题·模型微调· 字节

RAG 检索噪声 3 大策略

匹配正文：…案要点数据构建：文档切分策略、元数据标注、负样本构造检索优化：混合检索、查询改写、Embedding微调后处理：重排序模型、上下文压缩、置信度过滤评估数据集：MS MARCO、Natural Questions、HotpotQA、自建业务数据集数据构建层面文档切分优化按语义边界切分（标题、段落），避免硬截断；重叠窗口保留上下文连贯性构建多级索引：摘要级 + 细节级，先粗筛再精确定位数据质量提升清洗低质量文档，添加领域-specific的元数据标签（时间、来…

#字节#RAG 检索噪声#RAG 数据构建

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：…的边际成本极低，适合频繁变更的业务知识技术深度体现不仅是"向量检索+Prompt拼接"，而是涉及查询理解→多路召回→精排融合→上下文压缩→生成约束的全链路优化关键局限性局限类型具体表现典型场景检索质量瓶颈语义匹配≠相关性，Top-K可能漏关键信息专业术语、多义词上下文碎片化长文档切块导致逻辑断裂技术文档、法律条款推理能力边界弱于多跳推理、数值计算、跨文档归纳财报分析、科研综述系统耦合复杂检索失败时缺乏优雅降级机制边缘Query、新领域优化…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#美团#RAG 局限性#RAG 优化方向

面试题·模型微调

生成质量差怎么调优?

匹配正文：…出，约束模型行为后处理校验：用规则或小型模型检测答案是否覆盖文档关键点快速验证思路按成本从低到高尝试：Prompt调优 → 上下文压缩 → 轻量SFT（LoRA） → 全链路评估迭代

#RAG 生成质量#指令遵循#生成模块调优

面试题·模型微调

生成模型回答不准怎么调?

匹配正文：答案要点区分"检索准确"与"生成失败"的边界，定位问题根因掌握提示工程、上下文压缩、重排序等轻量级优化手段理解SFT/RLHF在RAG场景的特殊性（如拒答能力、引用忠实度）提及系统级方案如多模型路由、生成后校验问题定位：检索准≠生成好先确认是生成能力不足还是检索-生成对齐问题：检索片段本身矛盾/冗余 → 上下文组织问题模型忽略检索内容、自由发挥 → 注意力对齐问题模型无法理解专业领域知识 → 领域适配问题分层优化策略 1. 提示工程（零成本）显式指令：强…

#生成模型调优#上下文利用#RAG 生成不准确

面试题·模型微调· 百度

怎么提升对话模型事实一致性?

匹配正文：…+ 知识图谱路径查询改写：HyDE（假设文档嵌入）、子查询分解增强环节重排序：Cross-encoder精排，过滤噪声文档上下文压缩：只保留与问题相关的文档片段生成环节引用生成：强制模型标注信息来源，便于溯源和人工审核实际权衡场景推荐方案高频、事实稳定预检索+缓存，减少实时检索延迟时效性强实时RAG + 搜索引擎API 专业领域领域知识图谱 + 微调混合高 stakes 场景人机协同：模型生成+人工校验工作流核心原则：让模型"知道它不知道什么…

#百度#模型微调#评估与监控

面试题·知识图谱· 字节

医疗法律 RAG 合规追溯

匹配正文：…COVID-19/新型冠状病毒肺炎" 多轮澄清：置信度低时主动追问（如"您指的是刑法第X条还是民法第X条？"） 4. 生成与校验上下文压缩：用LLM摘要长文档，保留关键证据片段引用溯源：强制要求模型输出引用来源，用户可点击验证事实性校验：医疗用UMLS知识库做实体一致性检查；法律用法条时效库过滤失效条款三、领域特殊考量维度医疗法律时效性诊疗指南版本管理法条修订追踪、地域差异权威性多源证据等级标注判例效力层级（指导案例>参考案例）风险管控风险提示+…

#字节#医疗法律 RAG 合规追溯#医疗和法律 RAG 怎么做安全合规与证据追溯

面试题·知识图谱· 淘天

RAG 系统痛点怎么破?

匹配正文：…定Top-K截断，无关文档挤占有效token；长上下文模型对中间位置信息召回弱（Lost in the Middle）改进：动态上下文压缩，用更小模型做摘要过滤；检索结果聚类去重，减少冗余；调整文档排序策略，将高置信度结果放首尾 3. 语义鸿沟（Semantic Gap）表现：用户问题与文档表述方式差异大，字面匹配失败根源：Embedding的语义空间对齐不足；跨领域、跨粒度（词级vs概念级）匹配困难改进：领域微调Embedding模型；HyDE（假设文档嵌入）用生成…

#淘天#知识图谱#RAG 痛点

面试题·Prompt· 字节

Agent架构设计原则？

匹配正文：…四层设计）感知层（Perception）多模态输入解析：文本/语音/图像统一编码意图识别模块：粗粒度意图分类 + 槽位抽取上下文压缩：历史对话摘要，控制窗口长度规划层（Planning）推理引擎：ReAct/CoT/ToT模式选择任务分解：将复杂目标拆解为可执行子任务动态规划：根据执行反馈调整后续计划执行层（Action）工具注册中心：统一接口描述（OpenAPI Schema）执行器：并行/串行调用、超时重试、结果解析安全沙箱：敏感操作人工确认、权限…

#字节#Prompt工程#Agent

面试题·Prompt· 脉脉

Prompt 怎么系统设计与优化?

匹配正文：…"请逐步思考：①分析条件 ②列出公式 ③计算验证" 低资源任务少样本学习 3-5个输入-输出对，覆盖边界case 多轮交互动态上下文压缩保留摘要+关键实体，丢弃过时细节 RAG场景检索结果重排序按相关性打分注入，标注来源可信度三、评估与迭代体系三层验证：规则层：正则/JSON Schema校验格式合规性模型层：用更强模型（如GPT-4）作为裁判，设计评分rubric 业务层：埋点采集用户满意度、任务完成率、人工复核准确率迭代机制：建立Prompt版本库，小…

#脉脉#评估与监控#Agent

面试题·Prompt· 字节

Agent系统Prompt设计：架构与机制

匹配正文：…分层设计（感知层/决策层/执行层/记忆层） Prompt模块化与职责分离 ReAct/CoT等推理范式与工具调用的结合状态管理与上下文压缩策略安全边界与异常回退机制一、系统架构层面：四层分离设计感知层（Perception）统一输入网关：处理多模态输入、用户意图识别、安全过滤关键决策：是否走Agent链路 vs 直接回复（简单问答短路）决策层（Planning）核心模块：任务分解、工具选择、执行计划生成支持多范式：ReAct、Plan-and-Solve、R…

#字节#Prompt工程#Agent

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…似度搜索→TopK召回向量数据库（Milvus/Faiss）、多路召回（向量+关键词）生成拼接Prompt→LLM生成答案上下文压缩、引用溯源、拒答机制为什么能提升质量？事实准确性：知识库可维护、可溯源，直接引用原文降低幻觉知识时效性：不用重新训练，更新文档即可领域适配：低成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encoder精排）生成侧：上下文窗口…

#字节#大模型幻觉#RAG 原理

面试题·RAG· 字节

RAG 检索模块怎么提升相关性?

匹配正文：…——让模型先写理想答案，再用答案向量去检索典型场景：用户问"怎么省钱" → 改写为"降低成本的策略/方法/技巧" 其他补充手段上下文压缩：检索长文档后，用LLM提取与查询相关的片段，减少噪声元数据过滤：先按时间、类别等标签粗筛，缩小向量搜索空间实际落地需权衡：重排序和查询改写增加延迟，建议根据场景选择组合策略。学习建议建议系统学习该知识点

#字节#Query Rewriting#RAG 检索模块

面试题·RAG· 小红书

RAG 检索噪声怎么处理?

匹配正文：…一、检索阶段：提升召回质量重排序（Rerank）：用Cross-Encoder替代Bi-Encoder做精排，过滤低相关性文档上下文压缩：用LLM或专用模型对长文档摘要，减少噪声信息占比多路召回融合：向量检索 + 关键词检索 + 图谱召回，取交集或加权融合降低单路噪声动态阈值：根据查询难度自适应调整top-k数量，难查询多召回、易查询严过滤二、生成阶段：增强鲁棒性置信度引导生成：让模型输出引用来源并给出相关性评分，低置信度时主动降权或拒绝回答反事实训练（Coun…

#小红书#检索噪声过滤#RAG 噪声处理

面试题·RAG· 淘天

RAG 模型分类有哪些?

匹配正文：…、确定性场景 2. Advanced RAG（优化架构）架构：检索前（查询改写/扩展）→ 检索中（重排序/混合检索）→ 检索后（上下文压缩/摘要）→ 生成核心改进：查询优化：HyDE（假设文档嵌入）、Query2Doc 精排策略：Cross-encoder重排、多路召回融合上下文处理：Recomp压缩、选择性上下文适用：企业知识库、产品手册等噪声多、需精排的场景 3. Modular RAG（模块化/Agent化）架构：检索与生成解耦，支持多轮迭代、主动决策关键…

#淘天#RAG架构分类#RAG 分类

面试题·RAG

RAG 检索准但回答差怎么调?

匹配正文：…未针对RAG场景做SFT对齐系统性调优策略层级具体措施检索后处理重排序（Rerank）优化文档顺序；冲突检测与摘要融合；上下文压缩（如LLMLingua）提示优化添加"基于以下文档回答"前缀；明确引用格式要求；设置拒绝回答的兜底策略模型层面 RAG专用SFT数据训练；调整temperature/top-p；尝试更大的上下文窗口模型系统架构引入Self-RAG或Corrective RAG，让模型主动判断检索质量快速验证路径先通过人工检查拼接后的prom…

#上下文组织#生成质量调优#RAG 生成质量差

面试题·检索· 字节

RAG检索质量提升5法

匹配正文：…all、nDCG、吞吐和延迟预算决定，不使用固定通用值。 3. 检索后：上下文选择对候选做权限和元数据过滤、去重、证据片段抽取、上下文压缩与排序，保留引用关系。块大小和压缩策略取决于文档结构、查询类型与模型窗口，不能用统一的 256/1024 token 规则。压缩还可能丢失限定条件，需单独评测证据保留率。 4. 动态与迭代检索复杂多跳任务可根据当前证据缺口生成新查询继续检索；简单请求则可跳过昂贵步骤。路由条件、最大轮数、停止规则和失败降级都应显式配置。选型时先建立查询…

#字节#重排与优化#RAG 检索质量提升

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…用频率和时效性作为手工特征查询改写：用LLM做Query2Doc扩展，医疗场景做症状标准化对齐四、生成融合：上下文组装与约束上下文压缩：用LLM对检索片段做摘要，控制token数引用锚定：强制生成时标注来源片段ID，法律场景需输出"依据《XX法》第X条" 后处理校验：领域规则引擎过滤（如药物禁忌冲突检测）五、端到端优化评估体系：检索用Recall@K，生成用答案相关性和事实准确性（医疗用人工医生标注）迭代闭环：错误案例回流，持续微调Embedding和Reran…

#字节#重排与优化#RAG 链路优化

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…文稀释注意力优化方案：精排策略：交叉编码器（Cross-Encoder）重排；LLM-as-Reranker（小模型打分）上下文压缩：检索结果摘要压缩；动态截断（按相关性加权）生成增强：引用标注训练（让模型明确依据）；拒绝回答机制（低置信度时触发）影响：答案准确率提升，但重排增加50-100ms延迟瓶颈4：系统级权衡优化方向延迟准确率成本适用场景缓存优先 ↓↓↓ → ↓ 高频Query主导混合检索 ↑ ↑↑ → 专业领域知识库 LLM重排 ↑…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 阿里

RAG流程：检索到生成各阶段陷阱

匹配正文：…压缩关键挑战：上下文窗口限制（4K/8K/128K）、信息密度不均技术方案：文本切片策略：按语义段落/滑动窗口，非固定长度上下文压缩：LLMLingua选择性压缩、摘要式压缩引用标记：为生成内容附加来源，便于溯源 5. 生成与后处理提示工程：明确指令（"仅基于以下文档回答"）、Few-shot示例约束格式生成控制：温度参数、重复惩罚、结构化输出（JSON模式）质量影响：幻觉抑制依赖上下文相关性与指令遵循能力的平衡各环节协同关系检索质量是天花板，生成能力是地…

#阿里云#重排与优化#向量检索

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配正文：…op100 → BM25粗排 → Cross-Encoder精排Top10 动态重排：结合用户反馈的在线学习排序上下文融合优化上下文压缩：LLMLingua选择性压缩、重排序后截断关键片段多文档处理：去重合并、按相关性加权融合、构建结构化上下文（表格/树状）长上下文利用：Lost in Middle问题缓解，关键信息放首尾生成环节优化 Prompt工程：明确引用格式要求、 few-shot示例引导结构化输出生成增强：Self-RAG（生成时自检索验证）、RAG-F…

#字节#RAG迭代优化#RAG 优化

面试题·检索· 字节

RAG 检索优化:重排序怎么用?

匹配正文：…Encoder（如bge-reranker）对Top-K精排，捕捉细粒度交互去噪过滤：基于置信度阈值、来源可信度过滤低质量片段上下文压缩：用LLM提取关键句，解决上下文窗口冗余四、工程权衡线上部署需平衡效果与延迟，常见做法：重排序模型蒸馏为轻量版，或异步离线预计算分层检索：先快速粗排，再精排Top-K 缓存热门查询的检索结果核心思路是多路召回+精排过滤，不要依赖单一向量相似度。学习建议建议系统学习该知识点

#字节#混合检索#RAG 检索优化

面试题·检索· 字节

RAG 系统怎么持续迭代?

匹配正文：…不同召回源（KG、向量、倒排）按置信度加权动态截断：根据query难度自适应调整送入LLM的文档数三、生成层优化（最终输出）上下文压缩：检索结果去重、摘要提取，避免超长context稀释注意力引用生成：强制模型输出引用标记，便于溯源和事实校验领域微调：用高质量RAG数据对基座模型SFT，提升利用检索信息的能力四、评估与迭代闭环离线评估检索：Recall@K、MRR 端到端：Answer Correctness（用GPT-4判题）、Faithfulness（幻觉…

#字节#RAG评估闭环#RAG 系统优化

面试题·检索· AIlab

RAG 流程各环节优化陷阱

匹配正文：…Cross-Encoder，如bge-reranker）、LLM-based Rerank 精排Top-K，提升相关性生成优化上下文压缩（如LongLLMLingua）、引用溯源、拒绝回答机制（检索不足时）降低幻觉，提升可信度关键权衡召回 vs 精度：粗排用大模型Embedding保证召回，精调用Rerank提升精度延迟 vs 质量：实时性要求高时，可跳过Rerank或用小模型替代成本 vs 效果：HyDE用一次LLM调用换检索质量，需评估ROI

#AIlab#RAG链路优化#RAG 优化