匹配正文：…查方案，不能借用公司名、期限或收益。以 RAG 质量问题为例，Top3 检索结果差只能说明端到端链路出现了坏样本，不能直接证明 embedding 负样本不足。定位时要按查询类型和文档类型切片，先查知识覆盖率、切分与元数据，再分别测候选召回、重排排序、上下文组装、引用支持和最终答案。召回层至少看 Recall@k 或命中率，排序层看 MRR、NDCG 或人工偏好，生成层看答案正确性、证据支持率和拒答行为。方案必须对应证据。若文档根本没有答案，应补知识而非训练 embedd…

#问题定位#工程实践#跨团队协作

面试题·项目与经历· 字节

大模型 vs 搜推小样本特征怎么融合?

匹配正文：…保留结构化基线：类别、计数、价格、交叉特征和行为序列继续由GBDT、Wide&Deep、DCN或序列推荐模型处理；高维稀疏特征先做embedding、哈希或受控交叉。离线语义编码：用预训练语言模型编码query、商品、内容和用户文本，离线写入向量索引；双塔负责大规模召回，硬负样本和蒸馏提升领域适配。候选后重排：传统或双塔召回先缩小候选集，再让cross-encoder或LLM对小候选集重排、解释或抽取特征。通常不应先用昂贵LLM粗排全库、再用廉价模型精排；除非有明确缓存、…

#特征工程#迁移学习#多模态融合

面试题·Agent· 字节

Agent 长短期记忆如何分层?

匹配正文：…数据库。写入与读取交互或工具结果先经过候选提取、结构校验、去重、来源、权限与敏感信息检查，再带时间和版本写入结构化库、文本库或向量索引。新请求按身份与任务作用域做关键词、向量和结构化混合检索，再按相关性、时效性、重要性和权限重排，在上下文预算内注入。事实、原文和向量用稳定 ID 关联。向量用于候选检索，精确属性和状态由结构化存储承载；用户纠正应生成新版本或显式覆盖规则。摘要是有损表示，必须保留原始证据引用。系统按租户和主体分区，使用事件日志、幂等写入、删除和过期策略。…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#字节#Agent#Agent 记忆架构

面试题·Agent· 得物

大模型记忆机制怎么改进?

匹配正文：…mory，实现页式交换二、外部记忆模块：显式存储设计方案核心机制适用场景 Memory Bank 按实体/话题聚类存储摘要向量多轮对话、角色扮演 Vector DB + 时间衰减稠密检索 + 遗忘曲线加权持续学习、个性化结构化记忆（如DB/GPT）知识图谱或关系型存储复杂推理、工具调用关键设计点：写入策略：非全量存储，用模型生成摘要/事件三元组压缩信息检索策略：混合检索（向量相似度 + 时间近邻 + 重要性评分）一致性维护：定期触发**记忆反思（r…

#得物#Agent#大模型记忆机制

面试题·Agent· 字节

海量历史记录怎么索引优化？

匹配口述回答：…的退款流程片段，召回率比纯向量高很多。然后是语义记忆，也就是冷数据，比如用户画像、长期偏好，这些我压缩成[[知识图谱]]或者摘要向量存着。这里有个坑：如果直接存原始文本，存储成本会爆炸。所以我会定期用 LLM 生成摘要，只保留关键信息。检索时先查摘要，如果不够再通过链接取原始详情。检索优化这块，我重点讲两个手段。第一是混合索引，刚才提到了，向量加关键词加时间，三路召回后做一个 [[Rerank]]。第二是分层检索，先用粗量化的向量中心做粗筛，再用原始向量精排。这就像找书先…

#字节#蚂蚁#Agent

面试题·Agent· 阿里

Agent 中 RAG 瓶颈怎么破?

匹配正文：一、核心瓶颈分析 1. 检索层瓶颈延迟来源：向量检索（HNSW索引构建耗时）、重排序（Cross-encoder延迟高）、多路召回合并精度损失：Embedding语义漂移、稀疏检索（BM25）与稠密检索融合权重难调 2. 上下文层瓶颈长度限制：长文档截断导致关键信息丢失，Agent多轮后历史膨胀噪声引入：检索top-k中的低相关文档污染生成，"中间丢失"现象 3. Agent特有瓶颈决策链累积错误：ReAct循环中检索→推理→工具调用，任一环节出错级联放大状态管理…

#阿里云#Agent#Agent RAG 瓶颈

面试题·Agent· 阿里

LangChain vs LlamaIndex 在 RAG 中怎么选?

匹配正文：…数据检索框架核心定位：LLM与外部数据的高效连接核心能力：多源数据索引（100+ loaders）、高级检索策略（路由、融合、重排序）、查询引擎技术特点：索引类型丰富（Vector/Tree/Keyword/Composable），支持递归检索、子问题分解 RAG场景：企业知识库、文档问答的首选，检索精度和效率优化深入 Agent集成：提供OpenAIAgent、ReActAgent，但Agent能力相对轻量 3. 其他重要框架框架特色定位 AutoGen 多Age…

#阿里云#Agent#Agent 框架对比

面试题·Agent· 阿里

RAG+Agent 延迟与准确率成因

匹配正文：…乘法放大效应——Agent的多步决策特性使RAG缺陷被反复累积。一、响应延迟的成因与优化延迟来源具体成因优化方案检索层向量库冷启动、跨地域查询、Embedding计算预加载热数据到内存；本地缓存高频Query的Embedding；采用HNSW+量化索引 Agent决策层 ReAct多轮迭代、工具调用链过长、LLM推理本身设置最大迭代阈值；并行化独立工具调用；用小模型做意图路由，大模型仅做最终生成编排开销服务间RPC、序列化、状态同步同机部署检索与推理服务…

#阿里云#Agent#RAG Agent 延迟优化

面试题·Agent· 淘天

传统 RAG 有哪些痛点?

匹配正文：… 关键影响：Token浪费、推理成本上升、关键信息遗漏。 3. 知识更新延迟（Knowledge Staleness）问题本质：向量库构建周期长，无法感知实时变化。电商案例：大促期间价格/库存秒级变动，但RAG仍返回昨日缓存的"满199减30"活动信息。用户下单时发现优惠失效，体验极差。关键影响：实时性业务场景下直接不可用。优化方向简述痛点典型解法检索噪声重排序（Rerank）、多路召回融合、查询改写上下文冗余上下文压缩、语义去重、摘要增强知识更新延迟 …

#淘天#Agent#RAG 痛点

面试题·Agent· 字节

Agent 长期记忆架构与更新策略

匹配正文：…速回溯 3. 长期记忆（Long-term Memory）用户画像：偏好、习惯、人口属性（结构化存储）事件记忆：重要交互片段（向量化存储）知识记忆：用户专属知识（可结合RAG）存储与检索设计存储层类型存储方式示例用户画像关系型/文档数据库 JSON格式，支持原子更新事件记忆向量数据库 + 元数据摘要向量 + 时间戳 + 主题标签原始对话对象存储压缩归档，用于总结生成检索策略多路召回：向量相似度 + 时间衰减 + 主题标签过滤重排序：用轻量…

#字节#百度#Agent

面试题·Agent· 字节

Agent 记忆衰退：为何与如何实现

匹配正文：…挂）vs 交互记忆（会话上下文），后者才是衰减机制的主战场。三种实现方式机制核心思路具体做法时间衰减越旧权重越低记忆向量附加时间戳，检索时按 e^{-\lambda t} 降权；或定期清理超期记忆重要性评分关键记忆保留用LLM或轻量模型给记忆打"重要性分"，低分记忆优先淘汰访问频率衰减冷数据下沉 LRU/LFU策略，长期未访问的记忆迁移到慢存储或摘要压缩工程落地要点与RAG结合：向量库中存全量记忆，衰减机制作用于检索前的候选过滤或重排序阶段参数权…

#字节#Agent#Agent 记忆衰退

面试题·文档处理· 百度

RAG ANN 索引优化

匹配口述回答：…回和成本，正确做法是扫参画 Pareto 曲线，而不是套固定参数。为了补回 ANN 的近似损失，可以先取得更大的候选集，再用原始向量或 cross-encoder 重排。Embedding、距离函数、归一化和文档分块也会影响端到端召回，不能把所有问题都归因于索引。最后还要验证增量写入、删除、分片和过滤。高选择性过滤如果处理顺序不当，会同时伤害召回和延迟。索引版本化、影子构建和原子切换可以降低更新风险。我还会回放生产查询和过滤条件，观察删除墓碑累积后召回是否下降，再用双索引…

#百度#文档处理#RAG ANN 索引优化

面试题·文档处理· 京东

Chunking 策略怎么平衡上下文与精度?

匹配正文：…感内容尤为重要 2. 边界感知优先在段落、句子边界切分，不在词中间断开特殊内容（表格、列表）尽量保持完整 3. 尺寸匹配参考embedding模型的训练长度（如text-embedding-ada-002用8191 tokens）预留LLM的上下文空间：chunk大小 + prompt + 输出 < context window 4. 元数据增强存储chunk的标题、章节、页码等，用于重排序或过滤 5. 评估驱动迭代用Hit Rate、MRR等指标对比不同策略结…

#京东#RAG Chunking 策略#文本分块最佳实践

面试题·文档处理· 字节

RAG 数据清洗与 Chunking 怎么选?

匹配正文：…，实现简单；适合均匀分布的文档递归字符切分优先按段落→句子→单词层级切分需要保持语义完整性；适合技术文档、文章语义切分用embedding模型检测语义边界对语义连贯性要求高；适合对话、叙事文本结构化切分按章节、标题、表格等文档结构切分 PDF/Word等富格式文档；需保留层级关系 Agentic切分用LLM判断最佳切分点高质量要求场景，成本较高工程实践要点：把零重叠、短窗口和较长窗口作为候选，用同一评测集验证是否减少边界信息丢失保留元数据（来源、页码…

#字节#文档处理#RAG 数据清洗

面试题·文档处理· 美团

RAG知识库构建流程详解

匹配口述回答：…知识库质量和检索精度文档预处理：格式解析和清洗的坑，尤其OCR和表格分块策略：固定长度加重叠窗口是基础，语义分块成本高但必要 Embedding与向量数据库选型：通用和垂直场景的取舍，HNSW和IVF的权衡落地风险：元数据过滤和增量更新的常见失败场景约4分钟多向量表示：文档存摘要向量和内容向量，先粗筛再细筛，提升检索效率面试官可能会追问多向量表示的具体实现，比如如何生成摘要向量、检索时如何融合两个向量，或者跟Rerank相比的优劣

#美团#RAG 知识库构建#文档预处理

面试题·文档处理· 字节

专业领域文档怎么清洗?

匹配正文：…如BERT-based分割）而非固定token数重叠窗口：比较无重叠、短重叠和较长重叠候选，验证跨块召回与冗余成本四、元数据与向量化增强元数据保留：来源文档、章节层级、发布时间、版本号，用于检索过滤和重排序多向量表示：长文档同时存储文档级摘要向量 + 细粒度段落向量领域适配：用领域语料微调embedding模型，或训练领域特定的BGE/M3E 五、质量闭环建立清洗效果指标：分块语义完整性评分、术语覆盖率、信息密度通过检索命中率和生成事实性反向驱动清洗规则迭代学…

#字节#RAG 文档清洗#文档预处理

面试题·文档处理· 百度

RAG 分块参数调优

匹配正文：…有结构：标题、章节、表格、代码块等适用于PDF、Markdown、HTML等结构化文档关键考虑因素因素建议块大小需结合Embedding输入限制、文档结构和LLM上下文预算提出候选重叠（Overlap）比较零重叠、短窗口与较长窗口，用同一评测集验证边界证据完整性边界对齐优先在句号、换行处切割，避免截断句子元数据保留记录来源位置、标题等，用于重排序和答案溯源实践选型建议通用文档：递归分块 + 适度重叠，平衡效果与成本问答场景：比较多组粒度与重叠窗口…

#百度#RAG 分块参数调优#RAG 分块大小和 overlap 怎么调？指标与实验方法

面试题·文档处理· 小鹏

RAG 分块长度与重叠如何取舍?

匹配正文：…合观察的场景主要风险较短分块局部事实、错误码、条款定位上下文断裂、重复召回较长分块总结、比较、跨句推理无关内容增多、重排成本上升结构化或动态分块文档类型混合、章节层级明确实现与维护复杂度更高实践建议：先按标题、段落、列表、表格或代码边界产生候选，再对过长单元二次拆分。具体长度受embedding模型输入限制、查询类型和上下文预算共同约束。重叠策略（Overlap）作用：当答案跨越切分边界时，补回相邻上下文选择方法：把零重叠、短窗口和较长窗口放到同一…

#小鹏#RAG 文档分段#检索增强生成分段策略

面试题·评估· 蚂蚁

RAG多轮对话怎么防知识遗忘?

匹配正文：…消解：将"它"、"这个"替换为具体实体意图感知扩展：根据对话状态补充隐含条件时间衰减：早期轮次信息权重指数下降 4. 检索结果重排序最终分数 = α·语义相似度 + β·状态匹配度 + γ·时效性 5. 关键实现细节设置话题切换检测器（embedding相似度阈值），触发状态重置引入负反馈机制：用户纠正过的内容降低后续检索权重保留原始query通道：重写失败时fallback 评估指标多轮一致性（人工评分）知识引用覆盖率（黄金答案对比）话题切换响应延迟

#蚂蚁#RAG 多轮对话#知识遗忘

面试题·评估· 美团

RAG 工作原理与局限怎么分析?

匹配正文：…(检索增强生成)= 给大模型外挂一个可实时更新的知识库:先检索、再基于检索材料生成核心流程:文档解析 → 分块(Chunk)→ 向量化(Embedding)→ 入向量库;查询时检索 → 重排 → 拼入 prompt 生成优势:知识可实时更新、答案可溯源、幻觉显著降低、不需要重训模型局限:效果强依赖检索质量(切分不当/纯向量检索对 ID 类文本失效),链路长、延迟与成本上升与微调的边界:微调学「格式与风格」,RAG 注「事实与时效」,生产中常两者结合工作原理 RAG …

#美团#评估与监控#RAG 工作原理

面试题·评估· 美团

多路召回评估指标与RAG场景

匹配正文：…性/多跳）配置不同评估权重 A/B测试验证：离线指标提升≠端到端效果提升，需线上验证典型组合稀疏召回（BM25）+ 稠密召回（向量）+ 重排序模型评估：各路Recall → 融合后NDCG → 端到端Answer Accuracy 学习建议建议先掌握信息检索基础指标（如Precision、Recall、MRR），再结合RAG场景理解多路召回的特性，通过实际项目或开源数据集动手实践评估流程。

#美团#评估与监控#多路召回评估

面试题·评估· 美团

RAG 缓解幻觉的机制

匹配正文：…果与原始查询拼接，构建增强提示生成阶段：模型基于"检索证据"生成，答案被约束在提供的上下文中实际系统实现机制组件关键设计 Embedding模型领域适配（如用BGE、GTE替换通用模型）向量数据库 Milvus/Pinecone，需考虑索引类型（HNSW/IVF）与分片策略重排序（Rerank）交叉编码器精排，解决向量相似≠语义相关的问题上下文压缩长文档截断、摘要提取，适配模型上下文窗口查询改写 HyDE（假设文档嵌入）、Query Expansion提…

#美团#事实锚定#RAG 缓解幻觉的机制

面试题·评估· 字节

RAG 为何要二次生成?

匹配口述回答：…率，又能保持回答的流畅和结构化。不过前提是检索质量要够高，如果召回来的本来就是错的，大模型再强也白搭。所以落地的时候，我不会只用向量检索。实际业务里，比如客服场景问“满200减50的优惠券能不能叠加”，向量可能把“满100减20”的文档也召回来，因为都是优惠券。我会加上关键词权重，甚至用[[Hybrid Search]]把向量和[[BM25]]结合起来，再经过[[Rerank]]把最相关的顶上去。而且上线前我会特别关注chunk的边界是否合理，以及大模型会不会忽略检索内容、…

#抖音#RAG 二次生成#向量检索 vs 大模型生成

面试题·评估· 字节

RAG 评测优化闭环

匹配正文：…试：构造边界case（如检索片段冲突、信息缺失场景）二、迭代优化策略检索侧策略具体手段语义增强查询改写（HyDE）、多向量表示（ColBERT）、重排序模型结构优化分块策略迭代（按语义/按结构）、元数据过滤、知识图谱索引动态检索自适应检索步数、迭代检索（IRCOT）、检索-生成交替进行生成侧提示工程：引用格式约束（要求标注来源）、少样本示例模型微调：基于检索上下文的SFT，强化忠实度训练后处理验证：事实核查模块、置信度过滤协同优化检索-生成联合…

#字节#评估与监控#RAG 评测优化闭环