匹配追问：…一个智能客服，用户问“我的订单什么时候发货”，你直接让大模型回答容易胡扯。如果先查一下知识库里的物流规则再生成答案，这个流程你怎么设计？层层追问你一般怎么解决大模型知识过时的问题？……用外部知识库是吧，那具体怎么把外部知识和模型结合起来？……从用户提问到最终答案，中间经历了哪些步骤？直球架构请描述RAG的完整工作流程，包括离线和在线阶段，以及每个阶段的关键组件。比如文档怎么处理、检索怎么实现、生成时怎么拼接Prompt。

#商汤科技#RAG 工作流#RAG 工作流程

面试题·模型架构

上下文窗口是什么?超了怎么办?

匹配正文：…量实际工程的组合拳成熟的对话系统通常是:最近几轮对话保留原文 + 更早的对话滚动摘要 + 领域知识走 RAG,三者拼成最终的 prompt。入门后可以深入长上下文外推技术(RoPE 插值、YaRN),以及「窗口大了但中间内容记不住」的 Lost in the Middle 问题。

#入门#基础概念#上下文窗口

面试题·知识图谱· 字节

医疗法律 RAG 合规追溯

匹配口述回答：…法律这种高价值、高风险的垂直领域时，到底要怎么搭一条能真正跑通的链路。核心已经不是通用RAG那套“文档切一切、向量存一存、召回来拼Prompt”了，而是怎么把领域知识的结构化、查询的复杂意图、还有最终答案的可靠性串起来。我先说知识处理这块，这是最花功夫的。通用RAG里往往一刀切[[Chunk]]，但垂直领域不行。我的做法是把数据分成三层来对待：结构化数据，比如药品库、法条，直接做成[[Knowledge Graph]]，存实体和关系；半结构化数据，像病历模板、合同范本，我会…

← 上一页第 14 / 15 页下一页 →

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#医疗法律 RAG 合规追溯#医疗和法律 RAG 怎么做安全合规与证据追溯

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配正文：…用户问题同样编码为向量相似度搜索：ANN近似最近邻算法（HNSW、IVF），召回Top-K相关文档 3. 增强生成上下文组装：Prompt = 系统指令 + "参考文档：[检索结果]" + 用户问题 LLM生成：模型基于检索到的证据作答，可溯源关键优化点环节常见问题优化手段检索语义不匹配查询改写、HyDE（假设文档嵌入）、重排序(Rerank) 上下文文档过长/冗余摘要压缩、关键句提取、多路召回融合生成不遵循参考引用标注训练、Self-RAG（自适…

#字节#检索生成流程#RAG 技术原理

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配正文：…ing模型微调、混合检索（向量+关键词）、重排序（Rerank）上下文组织：片段截断策略、多轮检索、检索结果去重融合生成控制：提示词约束模型严格基于检索内容回答，拒绝无关Query 与微调对比 RAG优势在于知识可解释、更新即时、成本可控；适合知识频繁变更、需溯源的场景。微调更适合改变模型行为风格或需要内化复杂推理模式的任务。学习建议建议系统学习该知识点

#字节#外部知识检索#RAG 原理

面试题·RAG· 字节

RAG 怎么提升生成质量?

匹配正文：…eval-Augmented Generation）= 检索 + 生成。不是让模型硬背知识，而是按需检索外部知识库，把相关文档塞进Prompt，让模型基于"开卷考试"作答。标准流程（三阶段）阶段关键动作技术要点索引文档切分→Embedding→入库分块策略（按语义/固定长度）、向量化模型选型检索 Query向量化→相似度搜索→TopK召回向量数据库（Milvus/Faiss）、多路召回（向量+关键词）生成拼接Prompt→LLM生成答案上下文压缩、引用…

#字节#大模型幻觉#RAG 原理

面试题·RAG· 华为

逻辑引导怎么用？

匹配口述回答：…模型本身有基本的推理能力，只是不稳定。如果模型连基础能力都不具备，比如数学计算一塌糊涂，那加再多的引导也没用。另外，引导越强，对 Prompt 设计和解析器的要求越高，上线前一定要用一批典型 case 跑一遍，看看有没有因为格式问题导致循环重试死锁的。说到这，其实还有一个方向我没展开，就是当引导和模型自主性冲突的时候，比如模型明明推理对了，但输出格式不符合约束，你该不该重试？这里就涉及到 [[Self-Consistency]] 和多路径投票的思路，我最近在尝试把逻辑引导和…

#华为#逻辑推理引导#逻辑引导

面试题·RAG· 百度

RAG 技术原理与核心组件详解

匹配正文：…yDE、Query Expansion提升召回 3. 生成（Generation）上下文拼接：检索结果 + 用户Query → Prompt 大模型生成：GPT-4、文心等生成最终回答引用溯源：输出参考文档编号，增强可信度标准工作流程用户Query → Query理解/改写 → 向量检索（Top-K）→ 重排序 → 上下文组装 → LLM生成 → 后处理（溯源/拒答）核心优势维度说明时效性知识库实时更新，无需重新训练可解释性答案可溯源到具体文档成本比…

#百度#RAG核心组件#RAG 技术原理

面试题·RAG· 字节

上下文错误时怎么保证输出准确?

匹配正文：…容降权 2. 推理层：模型行为约束引用锚定：强制模型在生成时标注信息来源，如"根据[文档A]..."，便于追溯矛盾检测提示：在Prompt中显式要求模型识别上下文中的冲突信息并报告置信度阈值：对低置信度回答，触发"我不知道"或请求人工确认 3. 输出层：后验校验事实性验证：用独立模型或规则库对关键事实（数字、日期、人名）做NLP核查一致性投票：同一问题多次采样，取高频答案，离散结果则标记不确定 4. 系统层：持续迭代用户反馈闭环：收集"点赞/点踩"，错误案例回流至…

#字节#错误上下文处理#RAG 上下文错误

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…、混合检索精排过滤粗排结果→相关性打分→筛选重排序模型、多样性控制、阈值截断生成合成上下文+Query→LLM生成答案 Prompt工程、引用溯源、幻觉抑制关键瓶颈与优化策略瓶颈1：检索延迟高（P99>500ms）根因：向量库规模大、索引结构低效、网络IO 优化方案：索引层： HNSW换IVF-PQ（牺牲1-2%召回换10x速度）；分片+路由缓存层：热点Query结果缓存（Query哈希去重）计算层： GPU加速向量计算；Embedding模型轻量化…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 字节

RAG 为什么需要 Re-ranking?

匹配口述回答：…生[[Hallucination]]，需要额外做 [[Faithfulness]] 校验。这块如果面试官感兴趣，我可以展开讲讲怎么设计prompt和校验机制。所以我的结论是：重排是RAG从“找得到”进化到“找得准”的关键组件，但不是银弹。我更倾向于把重排看作一个精度调节旋钮，根据业务对准确率和延迟的要求，灵活调整候选集大小、模型轻量程度和级联层数。比如对金融风控场景，我宁可多花50毫秒也要保证精度；对实时聊天机器人，可能就用一个轻量模型快速过一遍。本质是两阶段权衡精度与效…

#字节#重排与优化#RAG Re-ranking

面试题·检索· 字节

RAG 原理与核心架构

匹配正文：…、稀疏检索（BM25）、混合检索重排序精排候选，提升相关性 Cross-Encoder、ColBERT 生成融合将检索结果与Prompt结合，约束生成上下文拼接、引用标注、多文档融合策略三大优势的技术机制 1. 事实准确性提升机制：检索结果为生成提供"事实锚点"，LLM从参数记忆转向上下文引用效果：可追溯来源，降低事实性错误 2. 动态知识更新机制：知识库与模型解耦，新文档入库即可生效，无需重新训练场景：金融政策、产品手册等高频更新场景 3. 幻觉缓解机制…

#字节#重排与优化#RAG 原理与核心架构

面试题·检索· 字节

RAG 系统迭代优化方向有哪些?

匹配正文：…相关性加权融合、构建结构化上下文（表格/树状）长上下文利用：Lost in Middle问题缓解，关键信息放首尾生成环节优化 Prompt工程：明确引用格式要求、 few-shot示例引导结构化输出生成增强：Self-RAG（生成时自检索验证）、RAG-Fusion（多查询结果融合生成）后处理验证：答案与检索片段的事实一致性校验、置信度打分过滤系统级迭代离线评估：构建领域评测集，端到端答案准确率 vs 检索命中率联动分析在线监控：检索空结果率、生成幻觉率、用户反…

#字节#RAG迭代优化#RAG 优化

面试题·检索· 美团

RAG 流程各阶段怎么拆?

匹配口述回答：…。我会按相关性排序后拼接，超长时做截断，优先保留高相关片段而不是开头。同时把来源、时间、标题这些元信息结构化注入，方便生成时引用。Prompt模板也很关键，要明确区分系统指令、检索结果和用户问题，否则模型容易混淆。生成阶段，我会约束模型必须基于检索结果回答，不确定时明确说“根据已有资料无法回答”，而不是瞎编。同时要求输出引用标注，比如“[1][2]”，方便溯源。最后做一次后处理校验，检查生成内容与检索结果的事实一致性，冲突时过滤掉。还有一个点值得注意：当检索结果为空或置信…

#美团#评估与监控#RAG 工作流程

面试题·检索· AIlab

RAG 流程：检索、融合、生成

匹配口述回答：这道题问的是[[RAG]]的完整流程，但我觉得面试官更想听的不是我背一遍流程，而是我有没有真正踩过坑，知道每个环节为什么这么设计。说白了，RAG的本质就是给大模型配一个外挂知识库，让它别再胡编乱造。那这个外挂怎么建、怎么查、怎么用，我分三个阶段来拆解。先说离线建库。这一步的核心矛盾是：知识颗粒度太粗，模型找不准；太细，又丢了上下文。比如客服场景里的退货政策，一个段落可能有三四百字，里面包含适用条件、退款时限、特殊品类限制，如果按固定512 token切，很可能把条件跟结论切…

#AIlab#RAG工作流#RAG 技术流程

面试题·检索· AIlab

RAG流程优化：三大层面策略

匹配追问：…货”，你从知识库检索了物流规则和订单状态，但生成的回答还是不够准。你觉得RAG流程里哪些环节可以优化？比如检索、生成、或者整个流程设计上。层层追问你做过RAG系统吧，检索召回这一块一般怎么搞？……那如果用户问的问题比较模糊，比如“怎么退换货”，你怎么让检索更准？……再进一步，生成的时候怎么确保答案不胡编乱造，又能利用好上下文？……整体流程上还有什么可以调优的？直球架构请系统性地讲一下RAG流程的优化手段，包括检索层（索引、查询、重排序）、生成层（上下文压缩、提示工程）…

#AIlab#RAG流程优化#RAG 优化

面试题·检索· 百度

RAG 工作流程与关键技术组件

匹配口述回答：…心取舍是：宁可不回答，也不要给错答案。所以我会把 RAG 看成一套检索系统加上一个生成接口，重心放在检索和过滤上，而不是一味调 prompt。 RAG本质是给LLM配外挂知识库离线阶段：文档处理与向量化在线阶段：检索与生成关键组件：Embedding、向量库、Reranker 落地挑战与取舍约4分钟知识库频繁更新时，增量索引比全量重建更复杂，需要双缓冲和版本管理面试官可能会追问增量索引的具体实现，比如如何保证检索一致性，或者如何设计双缓冲切换

#百度#RAG技术架构#RAG 工作流程

面试题·检索· 字节

RAG 核心实现原理是什么?

匹配正文：…最终答案生成需具备长上下文理解和指令遵循能力典型架构演进 Naive RAG（基础版） Query → 向量检索 → 直接拼接Prompt → LLM生成问题：检索质量差、上下文冗长、生成不可控 Advanced RAG（生产常用） Query → 路由判断 → 多路检索(向量+关键词+图谱) → Rerank精排 → 上下文压缩/摘要 → LLM生成增强点：查询改写、混合检索、检索结果过滤、引用溯源落地关键挑战检索精度：Embedding语义漂移、领域术语匹配差…

#字节#RAG实现原理#RAG 实现原理

面试题·检索· 美团

RAG 检索器与生成器如何协同？

匹配口述回答：…一堆退款政策文档，但真正需要的是该笔订单的处理状态，这时候 Rerank 能把带订单号的文档顶上来。然后生成。把召回的结果拼成 prompt，格式大概是“基于以下资料回答问题：文档1...文档K。问题：xxx。答案：”。这里有个前提，就是 prompt 模板要设计好，明确告诉模型只能基于资料回答，不然模型容易自由发挥，产生 [[Hallucination]]。而且我会要求模型输出引用标记，比如 [1][2]，方便事后溯源。再说说落地时我特别关注的几个风险。先看噪声敏感：如…

#美团#RAG架构#RAG 系统架构

面试题·检索· 字节

RAG Retriever 工作机制详解

匹配正文：…T8降低存储，平衡精度与速度与Generator的协同 Query → [Retriever] → Top-K Docs → [Prompt拼接] → Generator → Answer 关键协作点上下文融合：检索结果按相关性排序，截断至上下文窗口置信度过滤：低分文档丢弃，避免引入噪声迭代优化：Advanced RAG中加入重排序（Rerank）或查询改写，提升召回精度质量提升本质：Generator从" parametric memory "（参数知识）扩展到"…

#字节#Retriever#RAG Retriever

面试题·项目与经历· OPPO

ML项目流程：特征工程到评估

匹配追问：如果模型上线后效果衰减，你会如何排查和迭代特征工程在大模型时代还有价值吗，和Prompt工程如何结合如果数据量扩大10倍，你的方案需要哪些调整场景切入假设你在做电商搜索排序，用户搜“大码连衣裙”，日志里有几百万条曝光。你会怎么从零开始搞一套特征，再到训练、评估、上线？说说你实际怎么推的。层层追问你做过机器学习的项目吧？……完整流程包括哪些环节？……比如特征工程你是怎么做的？……模型选型和调参呢？……最后怎么评估上线？直球架构请分享一个你跑通完整ML流程的项目，…

#特征工程#模型选型#超参数调优

面试题·推理优化· 京东

推理框架硬件支持对比

匹配口述回答：…以及插件扩展，但量化和功能支持仍随硬件变化。SGLang 也面向高性能 serving，前缀缓存和调度对多轮、共享 system prompt 的负载可能有优势，需要用真实流量证明。TensorRT-LLM 针对 NVIDIA 做模型、kernel、量化和 in-flight batching 优化，流程可导入 Hugging Face checkpoint、转换权重并构建引擎，也在推进更高层服务接口。工程门槛来自版本、模型兼容、构建和回归，不是一个固定 ONNX 必经步骤。…

#vLLM#TensorRT-LLM#llama.cpp

面试题·模型训练· 字节

SFT vs 预训练:核心区别在哪?

匹配口述回答：…板，增加任务与表达多样性并减少过度统一的合成数据；若通用能力下降，比较混合预训练数据、较小学习率、早停或参数高效微调。验证集要按 prompt 或来源去重，除平均 loss 外测指令遵循、事实、推理、安全、风格和基准保持。方法选择由反馈形式决定。有可靠标准答案时，高质量 SFT 是直接基线；有步骤可验证时可做过程监督或工具执行；只有成对偏好时可考虑 DPO 等偏好优化；有可执行 reward 且需要策略探索时可考虑在线 RL；高风险边界还需要规则、检索和人工。偏好数据噪声会…

#监督微调#预训练对比#复读机问题

面试题·项目与经历· 美团

信息抽取：规则 vs LLM

匹配口述回答：…移。即使使用严格 JSON schema，也只是约束输出结构，金额、主体和日期是否抽对仍需验证。Few-shot 的示例本身属于 prompt 上下文，例子越多通常输入 token 越多。它的商业价值可能来自少写规则、少重试或更快覆盖新场景，而不是输入 token 自动下降。【完整展开】一个稳妥的文档抽取链路可以先做文件类型、编码和固定字段规则，再把非结构化段落交给 LLM，随后执行类型校验、值域校验、跨字段一致性、权限检查和来源定位。比如发票金额不能只相信模型输出，还要…

#规则引擎#LLM应用#成本优化