匹配正文：…，这次结果不应被算成 RAG 链路成功。优先检查文档解析、Chunk 边界、Query 改写、过滤条件、Embedding 和召回策略。情况二：Recall 高，MRR 低正确证据找到了，但排得太靠后。优先检查混合检索融合、Rerank、时效性或权限过滤后的排序，以及最终上下文截断。这时继续扩大候选 K 可能不会解决问题，反而增加成本。更关键的是让最有用的证据进入模型实际可见的位置。情况三：Recall 和 MRR 都正常，Faithfulness 低检索结果大概率…

#RAG#评测与上线#RAG 评估指标

面试题·RAG

RAG 首字响应为什么慢？Embedding、检索和生成怎么逐段优化？

匹配正文：…占用搜索引擎、连接池和 CPU。单请求变快的同时，也可能降低系统在高并发下的稳定性。要用并发压测验证，而不是只在本机发一个请求。 Rerank 为什么容易成为新瓶颈？粗召回通常可以快速从大规模候选中找出一批可能相关的内容。Rerank 则要更细地比较 Query 和每个候选，成本会随着候选数量增长。候选越多，召回覆盖可能越高，Rerank 工作量也越大。无限扩大 Top N 不是稳妥策略。一条合理的排序链路会先做粗召回，再调用 rerank 或 rerank_by_mo…

#RAG#评测与上线#RAG 首字响应

面试题·RAG

一个可上线的 RAG 系统怎么拆？离线入库、在线问答和监控如何闭环？

…压测记录时，只能说明扩展设计，不能承诺容量数字。架构变更还需要明确发布单元。解析器、Chunk 规则、Embedding、融合、Rerank、Prompt 和权限策略并不是互不相关的开关；其中一项变化就可能让旧评测结论失效。我会把代码、配置、模型、索引与评测报告绑定到版本，先离线回归，再影子或小流量验证。异常时回退整套兼容组合，而不是临时拼接一个从未验证过的新旧混合版本。跨服务调用还要统一请求标识与超时预算。每一层只能消耗自己的预算并把剩余时间传给下游，避免入口已经超时，…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：

#RAG#评测与上线#RAG 系统设计

面试题·Agent· 字节

Agent 长短期记忆如何分层?

匹配正文：…时间和版本写入结构化库、文本库或向量索引。新请求按身份与任务作用域做关键词、向量和结构化混合检索，再按相关性、时效性、重要性和权限重排，在上下文预算内注入。事实、原文和向量用稳定 ID 关联。向量用于候选检索，精确属性和状态由结构化存储承载；用户纠正应生成新版本或显式覆盖规则。摘要是有损表示，必须保留原始证据引用。系统按租户和主体分区，使用事件日志、幂等写入、删除和过期策略。多 Agent 默认隔离，只共享明确授权的命名空间。评估写入精确率、检索 Recall@K、冲突率…

#字节#Agent#Agent 记忆架构

面试题·Agent· 得物

大模型记忆机制怎么改进?

匹配正文：…提及2-3种具体架构方案（如Memory Bank、MemGPT、RAG-based Memory）说明记忆检索的关键设计（索引策略、相关性计算、遗忘机制）体现对Agent任务持续性的理解（多轮状态保持、目标追踪）有实际落地考量（延迟、存储成本、一致性）核心思路大模型记忆机制的本质是突破固定上下文窗口的限制，实现信息的跨会话持久化与高效检索。我从三个层面展开：一、架构层：原生上下文扩展长上下文模型采用Ring Attention、StreamingLLM等改进…

#得物#Agent#大模型记忆机制

面试题·Agent· 阿里

Agent 中 RAG 瓶颈怎么破?

匹配正文：一、核心瓶颈分析 1. 检索层瓶颈延迟来源：向量检索（HNSW索引构建耗时）、重排序（Cross-encoder延迟高）、多路召回合并精度损失：Embedding语义漂移、稀疏检索（BM25）与稠密检索融合权重难调 2. 上下文层瓶颈长度限制：长文档截断导致关键信息丢失，Agent多轮后历史膨胀噪声引入：检索top-k中的低相关文档污染生成，"中间丢失"现象 3. Agent特有瓶颈决策链累积错误：ReAct循环中检索→推理→工具调用，任一环节出错级联放大状态管理…

#阿里云#Agent#Agent RAG 瓶颈

面试题·Agent· 高德

Agent记忆分层与RAG检索

匹配正文：…ance 动态更新与遗忘机制记忆写入流程原始对话 → LLM提取结构化记忆（实体-关系-摘要）→ 语义去重 → 分级存储关键策略摘要压缩：每N轮对话由LLM生成摘要，替代原始文本增量更新：相同实体的新信息合并更新，保留时间戳链主动遗忘：低频访问+低重要性记忆进入"冷存储"，可配置彻底删除 RAG深度集成：上下文压缩检索后处理重排序（Rerank）：Cross-Encoder精排Top-K结果信息密度筛选：优先选包含实体、动作、结论的片段动态窗口分配：工作记…

#高德#Agent#向量检索

面试题·Agent· 阿里

LangChain vs LlamaIndex 在 RAG 中怎么选?

匹配正文：…Index —— 数据检索框架核心定位：LLM与外部数据的高效连接核心能力：多源数据索引（100+ loaders）、高级检索策略（路由、融合、重排序）、查询引擎技术特点：索引类型丰富（Vector/Tree/Keyword/Composable），支持递归检索、子问题分解 RAG场景：企业知识库、文档问答的首选，检索精度和效率优化深入 Agent集成：提供OpenAIAgent、ReActAgent，但Agent能力相对轻量 3. 其他重要框架框架特色定位 Aut…

#阿里云#Agent#Agent 框架对比

面试题·Agent· 字节

Agent 记忆衰退：为何与如何实现

匹配正文：…记忆重要性评分关键记忆保留用LLM或轻量模型给记忆打"重要性分"，低分记忆优先淘汰访问频率衰减冷数据下沉 LRU/LFU策略，长期未访问的记忆迁移到慢存储或摘要压缩工程落地要点与RAG结合：向量库中存全量记忆，衰减机制作用于检索前的候选过滤或重排序阶段参数权衡：衰减系数 \lambda 需按业务调优，客服场景可激进（天级），个人助理需保守（月级）参考方案：MemGPT的"分层记忆"（上下文→工作记忆→外部存储）+ 显式的forget操作一句话总结记忆衰退…

#字节#Agent#Agent 记忆衰退

面试题·文档处理· 字节

Embedding+向量库怎么做语义匹配?

匹配正文：…→ 向量入库 → 索引构建在线阶段用户Query → Embedding编码 → 向量相似检索 → Top-K召回 → （可选Rerank）→ 上下文组装关键技术点 1. 文本分块策略将固定长度、递归切分与语义分块作为候选，按段落或句子保留边界块大小权衡：太小丢失上下文，太大引入噪声将无重叠、短重叠和较长重叠放进同一评测集，比较边界召回与冗余成本 2. Embedding模型选择通用场景：BGE、GTE、E5系列垂直领域建议微调，使用领域语料对比学习多语言场…

#字节#文档处理#向量检索

面试题·文档处理· 字节

RAG 文本分块与向量索引流程

匹配正文：一、文本分块（Chunking）核心原则：语义完整性与检索粒度的平衡策略适用场景工具固定长度候选实现简单，参数需评测 LangChain RecursiveCharacterTextSplitter 语义分块文档结构清晰（论文、合同）按标题/段落边界切分递归分块长文档层次化结构先按章节，再按段落滑动窗口需要上下文连贯比较无重叠、短重叠和较长重叠关键细节：chunk size 必须低于实际嵌入模型的输入限制，并在同一评测集比较；过小可能造成语义碎片…

#字节#文档处理#向量检索

面试题·文档处理· 字节

Embedding 模型选型 vs 落地流程?

匹配口述回答：…候用稀疏向量？比如订单号检索，稀疏向量或者关键词匹配更准；而意图理解，稠密向量更好。真正稳定的RAG系统，往往是稠密加稀疏再加[[重排]]，但重排会增加延迟，所以需要根据业务场景做取舍。所以整体上，我会把Embedding模型选型看成是工程和效果的平衡，没有银弹。我更倾向先用小规模数据做离线评测，选一个基线，然后根据线上bad case迭代。本质问技术选型与工程落地的平衡 Embedding选型策略：任务驱动，混合使用向量化入库流程：分块、向量化、元数据、索引落地风险…

#字节#Embedding 模型选型#RAG 向量化流程

面试题·文档处理· 美团

RAG 知识库搭建流程?

匹配正文：…号、重复内容，保留表格/标题结构信息元数据标注：记录文档来源、章节、时间戳，用于过滤和溯源 2. 文本分块（Chunking）策略特点适用场景固定长度简单高效，可能切断语义通用场景，追求速度递归分块按标点层级分割，保持句子完整大多数文本语义分块用模型判断语义边界，块大小不均对连贯性要求高的文档关键权衡：块太小可能缺上下文，块太大可能引入噪声。应把多组 chunk size 与 overlap 组合放进同一评测集，比较召回、答案质量和成本。 3. 向…

#美团#RAG 知识库搭建#文档预处理

面试题·文档处理· 字节

医学论文与法律条文切块

匹配口述回答：…户query去跑，看top-k里能不能覆盖答案来源，如果召回率低，就调小chunk或者加大重叠。所以整体上，我更倾向把chunk策略看成检索质量的基础设施，它不是一次设定就完事的，需要根据文档类型、查询场景和模型能力持续调优。如果面试官想问，我可以再聊聊怎么用[[Rerank]]来提升召回后的排序质量，或者怎么评估chunk策略的好坏。这道题本质问的是语义完整性与检索效率的平衡先讲通用分块策略，划清边界：固定长度 vs 结构感知 vs 语义分块重点讲专业领域特化：法律…

#字节#医学论文与法律条文切块#医学论文和法律条文为什么要用不同的切块策略

面试题·文档处理· 百度

常用分块方法有哪些?

匹配口述回答：…块长度差异过大，比如有的20 tokens有的500 tokens，那就要调整递归的层级参数。其实还有一个方向值得深挖，就是分块策略怎么和 [[Rerank]] 配合。比如语义分块切出来的块，有时边界还是不够准，如果后面接一个 [[Cross-Encoder]] 重排，就能把切得不好的块里真正相关的片段捞出来。但这就引出另一个问题，重排的延迟怎么控制，对吧？所以总的来说，我更倾向把分块看成一套可配置的管道，而不是一个固定的算法。先根据文档类型选主策略，再用重叠和重排兜底，…

#百度#文本分块策略#RAG chunking

面试题·文档处理· 安克科技

RAG向量化流程：预处理到归一化

匹配正文：…本预处理核心目标：保留语义完整性，控制块大小文档解析：PDF用PyMuPDF/MinerU，HTML去标签，表格保留结构分块策略：按语义段落切分，并比较多组 chunk size 与 overlap 候选，用同一评测集验证边界召回和成本清洗降噪：去页眉页脚、统一编码、过滤低信息密度内容元数据绑定：保留标题层级、来源URL、时间戳，用于过滤和重排序嵌入模型选择选型三要素：维度考量语言中英混合选bge-m3、gte-large；纯英文选text-embedd…

#安克科技#RAG 向量化流程#Embedding 模型选择

面试题·文档处理· 安克科技

RAG文本向量化：分块与嵌入陷阱

匹配口述回答：这道题问的是[[RAG]]里文本怎么转成向量，其实核心就是给文档做索引，让检索又快又准。我一般会从[[分块]]策略、模型选型、[[嵌入]]优化和落地评估这几个环节来讲，重点是怎么在效果和工程成本之间做取舍。先说分块。分块的粒度直接影响检索质量。我倾向按语义段落切，优先在标点、换行这些自然边界断，保证一个块是一个完整意思。如果文档结构清晰，比如企业SOP，就按章节切；如果是纯文本，我会把[[滑动窗口]]的chunk_size和overlap设为候选变量，结合文档结构、模型输入…

#安克科技#RAG 文本向量化#分块策略

面试题·评估· 高德

高并发 Agent 延迟卡在哪?

匹配口述回答：这道题讨论的是工程方案，不需要编造“曾经在某业务提升了多少”。第一步先把端到端 trace 拆成排队、召回、重排、上下文组装、prefill、decode 和工具等待。召回与生成使用的资源不同，应该独立定位和扩缩容。召回侧可以先做安全的元数据或关键词过滤，再做向量召回，但必须验证过滤不会漏掉正确证据。HNSW 的搜索宽度、IVF 的桶与探测数都在召回和延迟之间取舍；PQ 能节省存储与带宽，但会带来量化误差。热点 query、embedding 和结果缓存要绑定语料、模型和…

#高德#Agent#Agent 系统延迟优化

面试题·评估· 美团

多路召回评估指标与RAG场景

匹配正文：…相关性标注：构建黄金测试集，定义"相关/部分相关/不相关"标准错误案例分析：分类bad case（漏召、误召、排序差）归因到具体策略 LLM辅助评估：用GPT-4等判断文档-Query相关性，降低标注成本三、RAG场景的组合策略分层评估体系离线阶段：各路独立评估Recall/Precision，筛选候选策略融合阶段：评估融合后的NDCG@K和覆盖率端到端阶段：最终生成答案的准确性（Answer-level metrics），这是RAG的北极星指标决策原则优先保…

#美团#评估与监控#多路召回评估

面试题·评估· 美团

RAG 指标权衡与阈值

匹配正文：…衡企业知识库场景优先保证事实一致性（避免误导决策）接受适度降低信息覆盖率（宁可少说，不可乱说）检索侧：高Recall + 重排序精排智能客服场景平衡答案相关性与回复友好度事实一致性要求相对宽松（可引导人工）关注拒答率：无法回答时不编造四、核心挑战指标冲突：高Recall可能引入噪声，损害事实一致性评估成本：事实一致性需人工或强NLI模型，难以规模化端到端归因：错误来自检索还是生成？需拆解分析实践策略：建立分层评估——先用自动化指标（RAGAS、自研N…

#美团#评估与监控#RAG 指标权衡与阈值

面试题·评估· 美团

RAG 缓解幻觉的机制

匹配正文：… 领域适配（如用BGE、GTE替换通用模型）向量数据库 Milvus/Pinecone，需考虑索引类型（HNSW/IVF）与分片策略重排序（Rerank）交叉编码器精排，解决向量相似≠语义相关的问题上下文压缩长文档截断、摘要提取，适配模型上下文窗口查询改写 HyDE（假设文档嵌入）、Query Expansion提升召回率核心优势 vs 典型局限优势可解释性：答案可溯源到具体文档片段时效性：知识库更新无需重新训练模型领域适配：低成本接入垂直领域知识局限…

#美团#事实锚定#RAG 缓解幻觉的机制

面试题·评估· 字节

RAG 评测优化闭环

匹配正文：…_recall 业务指标：用户满意度、任务完成率、纠错率对抗测试：构造边界case（如检索片段冲突、信息缺失场景）二、迭代优化策略检索侧策略具体手段语义增强查询改写（HyDE）、多向量表示（ColBERT）、重排序模型结构优化分块策略迭代（按语义/按结构）、元数据过滤、知识图谱索引动态检索自适应检索步数、迭代检索（IRCOT）、检索-生成交替进行生成侧提示工程：引用格式约束（要求标注来源）、少样本示例模型微调：基于检索上下文的SFT，强化忠实度训练…

#字节#评估与监控#RAG 评测优化闭环

面试题·评估· 美团

LLM 幻觉治理方法对比

匹配口述回答：…混进一堆噪声，模型反而更容易被带偏。所以我会在检索阶段做 [[Hybrid Search]]，把关键词和向量结合起来，再加上 [[Rerank]] 把最相关的文档排到前面。而且上线后我会特别关注一个失败场景：当检索结果为空时，模型会退化成纯生成，那幻觉率会飙升。我的做法是加一个拒答逻辑，如果最高分文档的相关度低于某个阈值，直接回复“没有找到相关信息”，而不是让模型硬猜。再说解码策略，这是成本最低、见效最快的手段，但效果有限。比如 Contrastive Decoding，它…

#美团#幻觉治理#LLM 幻觉治理方法对比

面试题·评估· 字节

医疗法律RAG：评估陷阱

匹配正文：…5）精确术语、药品名、法条编号 Elasticsearch 知识图谱检索关联推理、禁忌症、判例引用 Neo4j + 子图匹配重排序（Rerank）精排Top-K 交叉编码器微调关键设计：查询改写（Query2Doc）处理口语化输入，如"心跳快"→"心动过速" 三、生成模型层（领域适配）基座选择：专业领域优先选已预训练模型（如Huatuo、LawGPT），或通用模型+领域SFT 检索增强生成：检索结果作为上下文注入Prompt 引用溯源：强制模型输出参考来源编号，…

#字节#专业领域 RAG#RAG 系统设计