匹配正文：…0-500ms延迟上下文冲突：多文档信息矛盾时模型难以仲裁更新滞后：非结构化知识库维护成本高场景化设计考量场景设计重点优化方向医疗问答精确性优先多路召回（关键词+向量+知识图谱）、严格重排序阈值、答案置信度校准客服系统延迟敏感本地缓存高频Query、预计算热门问题向量、流式生成研报生成长上下文处理文档分块策略（按语义/按标题层级）、递归摘要、多跳检索关键优化方向：检索-生成联合训练（如REPLUG）、自适应检索（判断是否需要检索）、多模态RAG…

#美团#事实锚定#RAG 缓解幻觉的机制

面试题·模型微调· 美团

RAG 深度与局限怎么破?

匹配正文：答案要点识别RAG的核心优势（知识时效性、可解释性、成本可控）与典型局限（检索噪声、上下文窗口限制、多跳推理弱）提出至少3个具体优化方向（如混合检索、重排序、查询改写）结合实际场景说明优化方案的可行性体现对RAG与微调、Agent等技术边界的理解 RAG的核心价值与深度优势层面知识动态化：无需重训模型即可更新知识，解决大模型"幻觉"和时效性问题可溯源性：检索片段作为引用，提升生成可信度，满足合规审计需求成本可控：相比全量SFT，RAG的边际成本极低，适合频繁变…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#美团#RAG 局限性#RAG 优化方向

面试题·Agent· 淘天

传统 RAG 有哪些痛点?

匹配正文：…Knowledge Staleness）问题本质：向量库构建周期长，无法感知实时变化。电商案例：大促期间价格/库存秒级变动，但RAG仍返回昨日缓存的"满199减30"活动信息。用户下单时发现优惠失效，体验极差。关键影响：实时性业务场景下直接不可用。优化方向简述痛点典型解法检索噪声重排序（Rerank）、多路召回融合、查询改写上下文冗余上下文压缩、语义去重、摘要增强知识更新延迟实时索引管道、增量更新、结合API动态查询这些痛点正是Agentic RAG…

#淘天#Agent#RAG 痛点

面试题·模型微调· 商汤科技

RAG 技术流程怎么跑?

匹配正文：…"检索到的证据"生成回答，典型Prompt结构：基于以下参考资料回答问题： [检索内容1] [检索内容2] 问题：{用户提问} RAG解决的核心问题问题说明知识时效性大模型训练数据有截止日期，RAG可接入实时数据库幻觉问题生成有溯源依据，可标注参考来源私有数据无需训练即可利用企业内部知识成本可控比全量微调成本低得多关键优化方向混合检索：向量检索 + 关键词检索（BM25）结合查询改写：HyDE、Query Expansion提升召回率多路召回：摘…

#商汤科技#检索生成流程#RAG 技术流程

面试题·RAG

RAG 完整流程分几步？

匹配正文：…两步是在线问答：用户提问时实时执行，检索资料再生成答案分块是最容易被忽视却影响最大的一步：块太大噪声多，块太小语义被切断排查 RAG 效果差的问题，就按这条链路逐步定位是哪一环丢了分核心概念 RAG 流程是指把原始文档加工成可检索的知识库，并在用户提问时检索相关内容、交给大模型生成答案的完整链路，通常分为解析、分块、向量化、检索、生成五步。前三步离线完成，后两步在线执行。五步详解文档解析：把 PDF、Word、网页等各种格式的原始文档，转换成干净的纯文本。作用是“去…

#入门#基础概念#RAG流程

面试题·知识图谱· 字节

RAG 技术原理和实现流程

匹配正文：答案要点能清晰区分RAG与微调的技术边界，说明何时选RAG 讲清楚"离线建库-在线检索-增强生成"的三阶段流程理解Embedding模型和向量数据库的核心作用知道RAG的典型痛点（检索不准、上下文过长）及优化方向能提及高级变体如GraphRAG、Self-RAG等 RAG核心定位 RAG = 检索(Retrieval) + 生成(Generation)，用外部知识库动态增强LLM，解决知识时效性和幻觉问题，无需重新训练模型。三阶段实现流程 1. 离线知识库构建文档…

#字节#检索生成流程#RAG 技术原理

面试题·检索· 字节

RAG Retriever 工作流程详解

匹配正文：…r精排，如bge-reranker，Top-K从100→20 去噪策略：置信度阈值、聚类去重 5. 性能影响要点环节核心瓶颈优化方向 Embedding 模型推理延迟量化INT8、ONNX/TensorRT、批处理 ANN检索内存占用、建索引时间分层量化、增量索引 Rerank 二次编码开销轻量模型、截断候选集关键权衡：召回率vs延迟，通常离线评测Recall@K，线上关注P99延迟。实际系统中常做"快路径"（纯向量）+ "慢路径"（+重排）分级处理。学习建…

#字节#重排与优化#RAG Retriever 工作流程

面试题·检索· 百度

RAG 瓶颈在哪一步

匹配正文：…练（让模型明确依据）；拒绝回答机制（低置信度时触发）影响：答案准确率提升，但重排增加50-100ms延迟瓶颈4：系统级权衡优化方向延迟准确率成本适用场景缓存优先 ↓↓↓ → ↓ 高频Query主导混合检索 ↑ ↑↑ → 专业领域知识库 LLM重排 ↑↑ ↑↑↑ ↑↑ 高精度要求场景模型蒸馏 ↓ ↓ ↓↓↓ 边缘部署核心原则：先做检索质量（相关性是天花板），再攻系统性能（延迟决定可用性）。学习建议建议先掌握RAG的检索与生成基本原理，结合实际案例理…

#百度#重排与优化#RAG 系统瓶颈

面试题·检索· 小红书

RAG检索不准的失败场景与优化

匹配正文：…信息分块策略不当：关键信息被截断或上下文丢失系统层面 Top-K阈值设置不合理，正确答案被挤出单一向量检索的召回率瓶颈技术优化方向 1. 检索器增强换用/微调领域适配的Embedding模型（如BGE、GTE在垂直领域微调）混合检索：向量语义检索 + BM25关键词检索，结果融合多向量表示：ColBERT细粒度交互，解决"粗粒度向量"匹配失效 2. 查询侧优化查询改写：用LLM扩展同义词、澄清歧义（HyDE：生成假设文档再检索）查询分解：复杂问题拆分子查询，…

#小红书#美团#重排与优化

面试题·检索· 字节

RAG 系统怎么持续迭代?

匹配正文：核心思路 RAG优化是个系统工程，需分模块迭代+数据驱动，避免单点优化陷入局部最优。一、检索层优化（源头质量）手段具体做法索引策略按语义/结构切分（如标题+正文），关键信息冗余存储；多粒度索引（段落+句子）查询改写 Query扩展（同义词、LLM生成变体）、意图识别后路由不同索引混合检索向量+关键词+结构化过滤联合召回，解决语义漂移和精确匹配需求二、重排序层优化（精排筛选） Cross-Encoder精排：用轻量模型（如bge-reranker）对召回Top…

#字节#RAG评估闭环#RAG 系统优化

面试题·检索· 百度

RAG 工作原理与核心组件

匹配正文：答案要点 RAG的完整流程：索引、检索、生成三阶段 Embedding模型的作用和选择向量数据库的构建与检索算法（HNSW/IVF）检索策略：稠密检索、稀疏检索、混合检索 RAG的优化方向：查询改写、重排序、多路召回 RAG核心架构：索引-检索-生成三阶段 1. 索引阶段（离线）文档切分：按语义/固定长度分块，chunk size通常256-512 token 向量化：用Embedding模型（如BGE、M3E、OpenAI text-embedding）将文本转为稠密…

#百度#RAG核心组件#RAG 工作原理

面试题·检索· 字节

RAG检索方法如何优化？

匹配正文：… 结果缓存：高频Query直接命中异步预计算：热门文档块预加载实际项目中，建议先混合检索跑通基线，再通过Badcase分析决定优化方向——是向量模型不够准、还是召回不足、或是融合权重不对，对症下药。

#字节#RAG检索选型#RAG 检索方法

面试题·检索· 字节

RAG 系统实现：组件与流程

匹配正文：答案要点清晰描述RAG的两大核心阶段（检索+生成）及数据流向说明索引构建的关键步骤（文档切分、向量化、存储）列举至少2种检索策略（如混合检索、重排序）及适用场景提及RAG的典型优化方向（查询改写、上下文压缩、多路召回）能指出实现中的常见陷阱（如切分粒度、语义漂移） RAG核心架构：两阶段流水线索引阶段（离线）文档处理：按语义/固定长度切分chunk，控制256-512 tokens，保留上下文重叠向量化：用Embedding模型（如BGE、M3E、OpenAI…

#字节#RAG系统实现#RAG 实现

面试题·检索· 美团

RAG 架构怎么搭?

匹配正文：答案要点 RAG整体架构的三阶段流程（索引-检索-生成）检索器的核心组件（Embedding模型、向量数据库、重排序）生成器的Prompt工程与上下文融合策略检索与生成的协同机制（检索结果如何注入生成） RAG的典型优化方向（查询改写、多路召回、Rerank） RAG典型架构：三阶段流水线 1. 索引阶段（离线）文档切分：按语义/固定长度切分，控制chunk大小（通常256-512 tokens） Embedding编码：用BGE、M3E等模型将文本转为稠密向量向量…

#美团#检索器生成器协同#RAG 架构

面试题·文档处理· 字节

RAG 数据处理与索引流程?

匹配题目：在构建RAG系统时，从原始文档到可检索知识库的完整数据处理与索引流程包含哪些关键步骤？请详细说明各阶段的技术要点及其对系统性能的影响。

#字节#文档处理#向量检索

面试题·模型微调

RAG检索相关但生成差原因

匹配口述回答：…理想上下文，测试生成上限。如果上限还差，说明模型本身能力不够，需要微调；如果上限好，那优化提示和上下文工程空间还大。所以我会把[[RAG]]和微调看成互补，而不是二选一。比如企业SOP场景，文档更新频繁，RAG更灵活；但如果是垂直领域，比如法律合同，微调一个领域模型效果更好。真正落地常常是RAG加微调一起上。总结一下，遇到检索相关但生成差，我会先诊断是信息过载、碎片化还是歧义，然后从提示工程快速试，不行再动上下文建模和微调。关键是要有系统思维，不能单点修复。一句话点题：检…

#上下文压缩#生成调优#RAG 生成优化

面试题·检索· 美团

RAG 系统核心组件怎么搭?

匹配口述回答：…率；线上还要看延迟、成本、拒答率和用户反馈。没有这层闭环，RAG 很容易变成“感觉效果还行”，但不知道问题出在哪。所以一个完整 RAG 系统的实现重点，不是把文档塞进向量库就完了，而是文档质量、召回覆盖、排序精度、生成约束和评估闭环一起工作。只有这样，系统才可迭代、可排查、可上线。 RAG本质是给大模型配外挂知识库文档处理：清洗、分块、元数据检索器：多路召回加重排生成器：上下文压缩与引用架构演进与优化方向约4分钟 RAG 的核心工程能力是可评估、可排查，不只是能把…

#美团#RAG工程实现#RAG 系统实现

面试题·Agent· 字节

Attention 在 Agent 多轮对话有哪些局限?

匹配正文：…被挤出上下文工具调用链参数错误、重复调用已失效API 工具文档/历史结果遗忘个性化服务用户偏好"失忆" 长期画像信息稀释优化方向架构层面稀疏Attention：Longformer（全局+局部）、BigBird（随机+窗口+全局），降复杂度至O(n) 线性注意力/状态空间模型：RWKV、Mamba，以RNN式隐状态替代KV Cache，支持无限长上下文记忆增强分层记忆：工作记忆（当前上下文）+ 短期记忆（会话摘要）+ 长期记忆（向量数据库检索）显式记忆写入…

#字节#淘天#Agent

面试题·RAG· OPPO

查询文档相关性怎么算?

匹配正文：… Doc [SEP] 输入 BERT 取 [CLS] 输出过 MLP 得相关性分数效果最优但计算昂贵，仅用于 Top-K 重排优化方向： ColBERT：延迟交互，token 级相似度，平衡效率与效果 Poly-encoder：多向量表示查询，兼顾速度与精度四、RAG 场景的特殊考量阶段方法职责召回向量检索（双塔）+ BM25 混合高召回、低延迟精排 Cross-Encoder / LLM 重排高精确、可接受延迟关键权衡：RAG 的检索延迟直接影响用户…

#OPPO#查询文档相关性#语义匹配

面试题·RAG· 小红书

生成式推荐系统未来怎么发展？

匹配正文：…生成需对齐"收藏率"而非单纯点击率 3. 推理效率：动态解码策略核心矛盾：生成式逐token解码 vs 推荐系统毫秒级延迟要求优化方向：投机采样（Speculative Decoding）：小模型草稿+大模型验证提前退出：置信度达标时终止生成缓存复用：用户长期兴趣KV Cache持久化 4. 应用场景：多模态生成推荐小红书特有优势：图文/视频内容可直接作为生成目标演进方向：从"推荐现有笔记"到生成个性化内容摘要、组合生成穿搭方案等关键挑战挑战应对思路 ID…

#小红书#生成式推荐趋势#生成式推荐系统

面试题·检索· 字节

Embedding 怎么实现语义召回?

匹配正文：…暴力全量计算相似度计算：余弦相似度 = (A·B)/(||A||·||B||)，值域[-1,1]，实际取Top-K 关键优化点优化方向具体手段召回质量混合检索（向量+关键词BM25）、查询改写、多向量表示精度提升两阶段检索（粗排+精排/Cross-Encoder重排序）效率优化量化（FP32→FP16/INT8）、索引分区、缓存热点查询领域适配 Embedding微调、Hard Negative Mining 余弦相似度的选择逻辑归一化后等价于点积，计算…

#字节#向量语义召回#Embedding 语义召回

面试题·评估· 字节

Attention 在多轮对话中有什么局限?

匹配正文：…n，延迟线性增长，实时性崩塌 2. KV Cache显存瓶颈多轮对话需缓存每层的K、V矩阵，长度随轮次累积工具调用返回的结果、RAG检索的文档进一步膨胀缓存显存占用 = 层数 × head数 × head_dim × 序列长度 × batch_size × 2(K+V) 3. 位置编码外推失效训练时固定长度（如4K），Agent推理时远超此长度绝对位置编码（正弦/可学习）出现注意力分散，相对编码（RoPE）外推性不足长距离历史信息"被遗忘"或注意力权重异常 Age…

#字节#评估与监控#Attention 局限性

面试题·评估· 百度

MRR vs NDCG vs Precision 怎么选?

匹配口述回答：这道题其实是在问，当你评价一个[[RAG]]系统的排序质量时，不同指标到底在衡量什么，以及怎么选。我理解核心不是背公式，而是搞清楚每个指标的适用边界，因为实际落地中，指标选错了，优化方向就偏了。先说MRR，Mean Reciprocal Rank。它只关心第一个正确答案排在第几位，取倒数，然后对所有查询平均。比如用户问“退款流程是什么”，系统第一个返回的就是退款步骤，那排名1，倒数就是1；如果第一个返回的是退货政策，第二个才是退款流程，那倒数就是0.5。MRR只看第一个，后…

#百度#MRR 计算方法#NDCG 与 Precision 区别