匹配正文：…召回向量数据库（Milvus、Faiss、ES）生成（Generation）拼接"Query+检索结果"→Prompt工程→LLM生成大模型+Prompt模板如何提升两大能力 1. 事实准确性生成时提供可溯源的参考文本，约束模型"基于证据回答" 避免参数知识中的事实性错误（如"2024年美国总统是谁"） 2. 知识覆盖动态接入私有/实时数据（企业文档、最新新闻）无需重新训练即可更新知识，成本远低于微调一句话总结 RAG = 搜索引擎 + 大模型，让AI从"闭…

#字节#RAG工作原理#RAG 工作原理

面试题·Agent· 得物

大模型记忆机制怎么改进?

匹配正文：…计算、遗忘机制）体现对Agent任务持续性的理解（多轮状态保持、目标追踪）有实际落地考量（延迟、存储成本、一致性）核心思路大模型记忆机制的本质是突破固定上下文窗口的限制，实现信息的跨会话持久化与高效检索。我从三个层面展开：一、架构层：原生上下文扩展长上下文模型采用Ring Attention、StreamingLLM等改进注意力机制，将有效窗口从4K扩展到1M+ tokens 关键：训练阶段使用长序列数据，推理时KV Cache优化（如H2O重计算策略）分层记…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#得物#Agent#大模型记忆机制

面试题·Agent· 阿里

主流 LLM 应用产品怎么选?

匹配正文：… 通义千问场景：通用问答、学习辅助、内容创作体验优势：响应快、支持1000万字长文档、中文理解细腻技术-价值结合：RAG确保事实准确性，降低幻觉；长上下文窗口解决"读不完材料"的痛点讯飞星火场景：智能办公、教育硬件、医疗问诊体验优势：语音交互自然、行业插件丰富（PPT生成、会议纪要）技术-价值结合：Agent架构将"一句话需求"转化为可执行工作流，降低专业软件使用门槛三、潜在改进空间问题技术根因改进方向复杂任务易中断 Agent规划能力有限，容错机制不…

#阿里#科大讯飞#Agent

面试题·评估· 科大讯飞

RAG 解决了 LLM 哪些局限?

匹配正文：…识时效性强：政策、产品信息频繁变动，静态模型无法跟上合规与审计：需要明确回答依据，RAG的引用机制满足这一需求简单说，RAG把LLM从"闭卷考试"变成"开卷考试"——模型专注推理表达，事实准确性交给外部知识库保障。学习建议掌握RAG需理解大模型局限性，学习检索与生成的协同机制，结合实践案例加深理解。

#科大讯飞#阿里#RAG 架构

面试题·模型微调· 百度

大模型准确性瓶颈在哪?

匹配正文：…解耦的设计思想训练数据质量与多样性的关键作用多阶段验证机制（生成-检索-校验）的构建思路模型置信度与不确定性量化的应用提升大模型输出准确性，核心在于区分错误类型、分层治理：一、模型架构层面稀疏激活与专家混合（MoE）：将知识分散到不同专家，减少参数干扰导致的知识混淆可插拔知识模块：分离语言能力与事实知识，知识更新无需全量重训推理时显式规划：如Chain-of-Thought强制模型展示推导过程，便于追溯错误环节二、训练数据优化数据溯源与质量分层：对事实密集…

#百度#评估与监控#大模型准确性提升

面试题·模型微调· 美团

RAG 为何比 SFT 更优?

匹配题目：为何要引入检索增强生成（RAG）方法？在哪些具体场景下，RAG相比仅使用监督微调（SFT）的大模型具有更优的表现？请结合知识更新、事实准确性和推理能力进行说明。

#美团#RAG vs SFT#RAG

面试题·评估· 淘天

RAG 怎么减少幻觉?

匹配正文：… 生成模块的协同：检索：将查询向量化，从外部知识库召回Top-K相关文档增强：将检索结果与原始查询拼接，构建增强上下文生成：LLM基于增强上下文生成回答，实现"开卷考试" 三大核心价值的实现机制 1. 减少幻觉（Hallucination Reduction）问题根源 RAG解法参数化知识边界模糊，模型"自信编造" 检索提供显式证据，约束生成空间训练数据截止，知识过时接入实时/私有知识库，动态更新关键：生成时能看到"参考答案"，大幅降低无依据编造 2. 提升事…

#淘天#事实准确性#RAG 减少幻觉

面试题·评估· 字节

RAG 二次生成怎么减少幻觉?

匹配正文：核心机制：检索结果作为"锚定"约束大模型二次生成减少幻觉的本质，是将检索结果作为事实边界，约束模型在知识范围内作答，而非依赖参数化记忆进行外推。提示工程策略 1. 引用标注提示（Citation Prompting） "请基于以下参考资料回答问题，并在答案中标注引用来源编号。若资料不足以回答，请明确说明'根据现有资料无法确定'。" 强制模型建立生成内容与检索片段的显式关联便于后续溯源验证，也增加模型"说谎"的心理成本 2. 上下文优先级提示 "优先依据提供的参考资料，…

#抖音#约束生成#RAG 幻觉

面试题·模型微调· 百度

怎么提升对话模型事实一致性?

匹配追问：…呢”，你回答时却把参数说错了。这种事实不一致的情况，你觉得是模型架构的问题还是训练数据的问题？怎么系统性地解决？层层追问你觉得大模型为什么会产生幻觉？……那除了训练数据，在模型架构上有没有办法让生成更依赖外部知识而不是记忆？……再具体点，推理时有没有什么技巧能强制模型输出和检索结果一致的内容？直球架构请从模型架构、训练策略、推理优化和外部知识集成四个角度，聊聊提升大模型生成事实准确性的有效方法，重点说清楚每种方法的核心思路和适用场景。

#百度#模型微调#评估与监控

面试题·RAG· 淘天

RAG 核心架构与工作流程

匹配正文：…档"拼接为上下文，生成最终回答标准流程：用户Query → 向量化 → 向量检索召回 → 重排序（可选） → 上下文拼接 → LLM生成解决的关键问题问题说明事实幻觉生成内容有检索文档支撑，可溯源验证知识时效性无需重训即可更新知识库领域专业知识注入企业私有数据，弥补通用模型短板生成可控性通过限定检索范围约束回答边界 RAG vs 纯参数化模型：场景对比 RAG显著更优的场景：高事实准确性要求：医疗诊断、法律咨询、金融合规（需精确引用条文）知识高频…

#淘天#阿里#RAG 架构

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…ery向量化→相似度搜索→TopK召回向量数据库（Milvus/Faiss）、多路召回（向量+关键词）生成拼接Prompt→LLM生成答案上下文压缩、引用溯源、拒答机制为什么能提升质量？事实准确性：知识库可维护、可溯源，直接引用原文降低幻觉知识时效性：不用重新训练，更新文档即可领域适配：低成本接入私有知识，比微调便宜10-100倍可解释性：答案从哪来一目了然关键优化点（加分项）检索侧：Query改写、多轮检索、重排序（Cross-Encoder精排）生…

#字节#大模型幻觉#RAG 原理

面试题·检索· 字节

RAG 原理与核心架构

匹配正文：…ColBERT 生成融合将检索结果与Prompt结合，约束生成上下文拼接、引用标注、多文档融合策略三大优势的技术机制 1. 事实准确性提升机制：检索结果为生成提供"事实锚点"，LLM从参数记忆转向上下文引用效果：可追溯来源，降低事实性错误 2. 动态知识更新机制：知识库与模型解耦，新文档入库即可生效，无需重新训练场景：金融政策、产品手册等高频更新场景 3. 幻觉缓解机制：检索上下文约束生成空间，减少模型"自由发挥" 局限：检索失败时仍可能幻觉（需结合拒答策略）…

#字节#重排与优化#RAG 原理与核心架构

项目实战·RAG

第 1 章:为什么做 RAG?

匹配正文：…5 道,覆盖 5 个角度) 【概念基础】请解释 RAG 的基本概念与工作原理。中等 → 【业务价值/治幻觉】 RAG 如何提升大模型的事实准确性和知识覆盖? 较难 → 【与替代方案对比】系统比较 RAG 与传统"先检索后生成"流水线的差异。较难 → 【工程组件初探】 RAG 的技术原理、核心组件、工作流程及实际应用中的优势与挑战。中等 → 【数据漂移场景】线上数据分布快速变化时,如何用外挂数据库结合大模型提升响应准确性? 中等 → 学完这一章你应该能干嘛能跑通那…

#RAG#检索#项目实战

面试题·评估· 字节

专业领域 RAG 链路怎么搭?

匹配正文：…pt工程：强制引用来源，格式如"根据《XX指南》第X条..." 约束解码：禁止生成索引外信息，设置医学安全词表拦截上下文压缩：用LLM对检索结果去冗余，保留关键证据链五、评估方法维度指标方法检索质量 Recall@K、MRR 人工标注相关性生成质量事实准确性对比原文，用NLI模型检测幻觉可追溯性引用覆盖率检查生成内容是否都有来源支撑业务价值专家满意度领域专家盲评关键取舍：医疗法律对准确性极度敏感，宁可"检索不到"也不"生成错误"，需设置置信度阈…

#字节#RAG 全链路#RAG 技术链路

面试题·评估· 安克科技

Agent/RAG 评估集构建

匹配正文：…d negative策略人工+自动化的混合标注流程数据代表性验证方法核心设计原则 Agent和RAG的评估目标不同：RAG重事实准确性，Agent重任务完成度与工具调用正确性，需分开设计。数据采集来源适用场景注意事项真实用户日志高价值、分布真实脱敏+去偏，避免头部query过度采样合成数据（LLM生成）快速覆盖长尾场景需人工校验，控制幻觉比例公开benchmark适配跨模型可比检查license，避免数据污染关键：覆盖多轮对话、边界case（…

#安克科技#评估与监控#Agent/RAG 评估集构建

面试题·知识图谱· 淘天

GraphRAG 最大技术挑战?

匹配正文：…抽取、关系识别、消歧的准确率低，人工标注成本极高；电商领域商品属性繁杂，schema设计困难解法：采用弱监督+主动学习循环：先用LLM生成候选三元组，人工审核高置信度样本，再迭代优化；schema采用自底向上演化，而非一次性完美设计 2. 多跳推理：准确性与效率的权衡难点：2跳以上推理错误率指数上升；图遍历的延迟难以满足在线要求解法：预计算+剪枝策略：离线计算高频查询路径的子图索引；在线用GNN做路径排序，优先扩展高相关性邻居；复杂查询降级到子图+向量混合检索 3. 图…

#淘天#知识图谱#评估与监控

面试题·检索· 字节

专业领域RAG链路优化陷阱

匹配正文：…作为手工特征查询改写：用LLM做Query2Doc扩展，医疗场景做症状标准化对齐四、生成融合：上下文组装与约束上下文压缩：用LLM对检索片段做摘要，控制token数引用锚定：强制生成时标注来源片段ID，法律场景需输出"依据《XX法》第X条" 后处理校验：领域规则引擎过滤（如药物禁忌冲突检测）五、端到端优化评估体系：检索用Recall@K，生成用答案相关性和事实准确性（医疗用人工医生标注）迭代闭环：错误案例回流，持续微调Embedding和Reranker 学习建…

#字节#重排与优化#RAG 链路优化

面试题·检索· 字节

RAG 重排收益与成本

匹配正文：…序，牺牲延迟换取精度对生成质量的具体提升维度提升效果相关性过滤剔除向量相似但主题偏离的"伪相关"文档，减少无关信息干扰事实准确性确保进入上下文的文档真正包含答案依据，降低幻觉风险信息密度优先排序信息完整、结构清晰的文档，提升上下文利用效率多跳推理对需要组合多个文档的场景，重排能更好识别互补性文档工程实践要点模型选择：轻量场景用Cross-Encoder（如bge-reranker），复杂场景用LLM-as-Reranker 截断策略：通常向量检索取T…

#字节#重排与优化#RAG 重排收益与成本

面试题·检索· 字节

两阶段 vs 端到端怎么选?

匹配正文：…索质量，上限可控依赖模型能力，幻觉风险高选择依据选两阶段架构的场景：知识库规模大（百万级以上文档），必须靠检索缩小范围对事实准确性要求高（医疗、法律、金融），需要可追溯来源需要可解释性，能展示"参考了哪些资料" 预算有限，无法承担全量长上下文推理成本选端到端生成的场景：知识库规模小，可直接塞进上下文（<100k tokens）对延迟极度敏感（实时对话场景）任务偏向创意生成而非事实问答有强基座模型（GPT-4级）且幻觉可控关键权衡两阶段的隐性成本：召…

#字节#两阶段检索与端到端生成#两阶段检索

面试题·评估· 字节

医疗法律RAG：评估陷阱

匹配口述回答：这道题问的是专业领域[[RAG]]智能助手的设计，我觉得它本质上是在问一件事：怎么让大模型在知识密度高、容错率极低的场景下，既能用上最新最准的知识，又能给出可信、可解释的回答。说白了，就是解决专业领域的可信生成问题。我会从数据处理、检索、生成和评估四条线来讲，不过先划个边界：很多人纠结RAG和微调选哪个，我的看法是，高频更新的知识、需要引用溯源的场景，RAG是必选项；但像处理病历或合同这种格式稳定的文档，微调反而能提升格式规范性。真正落地往往是 RAG加微调混合，RAG…

#字节#专业领域 RAG#RAG 系统设计

面试题·RAG· 百度

RAG 技术原理与核心组件详解

匹配口述回答：这道题问的是[[RAG]]，我觉得它本质是在问怎么给大模型配一个可以实时更新的知识外挂，而不是让它死记硬背所有东西。因为纯靠参数记忆，模型既记不住新知识，也容易编造，所以RAG的思路就是把外部知识库当成一个随时可查的参考书，生成的时候先查书再回答。具体来说，它分三大块：索引、检索、生成。索引就是把文档切成小块，比如按段落或者固定512个token切，然后用 [[Embedding]] 模型转成向量存到 [[Vector Database]] 里，像[[Faiss]]或者Mi…

#百度#RAG核心组件#RAG 技术原理

LLM 事实准确性怎么保证?

RAG 怎么提升事实准确性?

大模型记忆机制怎么改进?

主流 LLM 应用产品怎么选?

RAG 解决了 LLM 哪些局限?

大模型准确性瓶颈在哪?

RAG 为何比 SFT 更优?

RAG 怎么减少幻觉?

RAG 二次生成怎么减少幻觉?

怎么提升对话模型事实一致性?

RAG 核心架构与工作流程

RAG 怎么提升生成质量?

RAG 原理与核心架构

第 1 章:为什么做 RAG?

专业领域 RAG 链路怎么搭?

Agent/RAG 评估集构建

GraphRAG 最大技术挑战?

专业领域RAG链路优化陷阱

RAG 重排收益与成本

两阶段 vs 端到端怎么选?

医疗法律RAG：评估陷阱

RAG 技术原理与核心组件详解