匹配正文：… 它可能补错实体、时间和结论，也可能在资料根本没有答案时生成一段看似完整的说明。如果系统把假设答案直接展示给用户，就已经越过了 RAG 的证据边界。即使只用它做检索，也存在带偏风险。错误假设会把向量推向错误主题，随后召回一批“支持”假设的相似文本。更稳妥的方式是把 HyDE 当成一条可撤销的检索路线。原 Query 仍然保留，假设文本单独记录。两路可以并行召回，再根据稳定 ID 合并。若 HyDE 路线没有带回可核验证据，最终回答不能引用假设文本补空白。精确编号、产…

#RAG#检索与重排#RAG Query 重写

面试题·RAG

Embedding 和 Rerank 模型怎么选？什么时候值得领域微调？

匹配正文：先分清：Embedding 和 Rerank 各自对什么结果负责 RAG 的检索链路可以先想成一场两阶段筛选。第一阶段面对的是整座知识库。系统把用户问题编码成向量，再从大量文档片段里快速找出一小批候选。Embedding 模型的任务不是直接判断最终答案，而是把可能包含答案的片段尽量送进候选集。它如果漏掉了正确证据，后面的模型再聪明也无从补救。第二阶段只看这批候选。Rerank 模型把问题和每个候选片段放在一起判断相关性，然后重新排列顺序。它更擅长处理“关键词很像，但并没有…

#RAG#检索与重排#Embedding 模型选型

面试题·RAG

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

…断项。指标可以分成四组：正确记忆的召回率、返回记忆的精确率、过期或被替代记忆的误用率、删除后的残留召回率。再加上跨用户泄漏、检索延迟、上下文 Token 和写入成本。平均值之外，要单独看高风险样本。记忆模块最容易漏掉的验收一条可复现的记忆 Trace 应该记录什么记忆答错时，如果日志只有最终 Prompt，很难知道错误在哪一步。最小 Trace 可以记录：请求所属作用域、短期窗口选中了哪些消息、长期检索返回了哪些 memory_id、过滤掉哪些候选及原因、最终注入哪些…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：

#RAG#生成与对话#RAG 记忆模块

面试题·评估· 百度

LLM 准确性提升四大路径

匹配正文：…于事实正确。解码参数、验证器和工具执行应按任务选择，代码用测试，数学用可检查计算，不能靠一条统一prompt解决。外部增强方面，RAG能把回答连接到可更新语料，但仍可能召回错误、忽略证据或错误引用。工具调用可以把搜索、计算和数据库查询交给外部系统，同时新增权限与注入风险。检索质量、证据支持率、答案忠实度和拒答都需单独评测。我的实验会先建立无增强基线，再分别加入数据改进、偏好优化、推理提示、检索或工具，每次只改变有限变量。按事实、推理、帮助性、安全、延迟和成本分桶比较，并保…

#数据质量#训练策略#推理优化

面试题·推理优化· 字节

FAISS 怎么实现高效 ANN 搜索?

匹配追问：FAISS中IVF和PQ如何组合使用（IVFPQ）？与HNSW相比各有什么优劣？在实际RAG系统中，如何根据数据规模和延迟要求选择索引类型？场景切入假设你在做一个电商推荐系统，商品和用户都用向量表示，每天有上亿次请求，内存有限，你怎么快速找到最相似的几个商品？会用到哪些技术？层层追问向量检索在亿级数据下怎么做？……精确搜索太慢了，有什么近似方法？……那IVF和PQ分别解决什么问题？它们怎么组合的？直球架构讲一下FAISS的核心原理，特别是IVF和PQ这两种索引结构…

#向量检索#近似最近邻搜索#量化压缩

面试题·Agent· 得物

大模型记忆机制怎么改进?

匹配正文：…区分短期记忆（上下文窗口）与长期记忆（外部存储）的技术路径至少提及2-3种具体架构方案（如Memory Bank、MemGPT、RAG-based Memory）说明记忆检索的关键设计（索引策略、相关性计算、遗忘机制）体现对Agent任务持续性的理解（多轮状态保持、目标追踪）有实际落地考量（延迟、存储成本、一致性）核心思路大模型记忆机制的本质是突破固定上下文窗口的限制，实现信息的跨会话持久化与高效检索。我从三个层面展开：一、架构层：原生上下文扩展长上下文模型 …

#得物#Agent#大模型记忆机制

面试题·Agent· 字节

Agent 架构的取舍与适用条件

匹配正文：…模型参数限制动态决策根据中间结果调整策略，而非固定流程可解释性思考链（CoT）和动作轨迹可追溯，便于调试二、主要局限性延迟高：多轮LLM调用+工具执行，RT常达秒级甚至10s+ 错误累积：单步错误会级联放大，"一步错步步错" 系统复杂：状态管理、工具注册、异常处理工程量大成本不可控：Token消耗和工具调用费用难以预估三、与RAG的关系：协同而非替代 RAG是Agent的一种工具，Agent是RAG的增强形态场景方案原因单次检索即可回答纯RAG 延迟…

#字节#Agent#Agent 架构

面试题·Agent· 百度

Agent 规划记忆工具调用机制

匹配正文：…化，过粗导致失控记忆压缩语义摘要+关键实体提取平衡信息保真与上下文长度工具权限分级管控+人工确认阈值安全与效率的折中 RAG触发意图识别驱动，非每轮必检减少延迟，聚焦必要场景学习建议建议先掌握大模型基础原理，再学习Agent典型架构（如ReAct、Plan-and-Execute），通过开源项目动手实践，理解各模块协作机制。

#百度#Agent#Agent 系统设计

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配正文：… 支持混合查询需二次开发标量过滤+向量元数据过滤 GraphQL+向量成本低（人力高）中高（按查询付费）中三、RAG场景的技术选型决策决策框架：精度-延迟-成本数据规模<1M，延迟敏感 → FAISS HNSW，自研服务数据规模1M-100M，需实时更新 → Milvus集群，IVF_HNSW索引快速验证/MVP → Pinecone，零运维但成本高需要关键词+语义混合召回 → Weaviate或Elasticsearch 8.x的dense_v…

#字节#文档处理#向量检索

面试题·文档处理· 百度

Chunking 策略怎么选?

匹配正文：…看证据 Recall@K、MRR 或 NDCG、重复率和过滤后有效证据数；生成侧看答案正确性、忠实度和引用覆盖；工程侧看索引体积、延迟与上下文 token。最终选择 Pareto 更优的配置，并单独检查表格、代码、跨页和多跳问题。结论：分块没有“语义切分一定最准”或“滑窗一定召回最高”的统一排序，可靠结论来自同一评测集上的对照实验。图解 Chunking 策略怎么选?图解

#百度#文档处理#Chunking 策略

面试题·文档处理· 字节

Chunk 向量化与索引怎么选?

匹配正文：…控大规模生产、隐私敏感场景 E5/GTE 长文本支持好，学术benchmark领先长文档检索、技术报告类场景 ColBERT 延迟交互模型，细粒度匹配能力强高精度要求、可接受更高延迟选型要点：中文场景优先BGE；成本敏感选自研/开源；需要解释性考虑ColBERT类模型。三、主流向量数据库对比数据库核心特点最佳场景 Milvus/Zilliz 云原生、分布式架构成熟、GPU加速十亿级规模、企业级生产环境 Pinecone 全托管、零运维、自动扩缩容快速上线、…

#字节#向量检索#Chunk 向量化

面试题·文档处理· 字节

医疗法律文档切块

匹配正文：…同、病历、监管文件智能体切块（Agentic） LLM先读全文，按主题/事件主动划分最贴合人类理解、可提取跨段落关联成本高、延迟大、需设计prompt 超高价值文档、需要深度推理的场景医疗/法律领域的实践要点 1. 优先保结构法律：以"条款→款→项"为最小单元，而非固定长度医疗：以"主诉-现病史-检查-诊断"等病历章节为边界 2. 元数据增强 chunk = { "content": "...", "source": "民法典第X条第X款", "parent_se…

#字节#医疗法律文档切块#医疗和法律文档怎么切块？结构、语义与引用边界

面试题·文档处理· 百度

分块策略怎么影响检索?

匹配口述回答：…块切得太碎，导致检索时上下文丢失，生成结果出现[[Hallucination]]。上线我会特别关注分块数对[[向量库]]规模和推理延迟的影响，分块数太多，检索延迟会飙升。另外，我现在比较关注动态分块，就是根据内容类型自适应调整。比如代码块保留完整，正文按段落切，甚至用模型判断语义边界。这个方向如果能做好，能进一步减少人工调参的工作量。所以整体上，我更倾向从固定长度加滑动窗口快速验证，再逐步引入语义分块优化，最后根据业务场景做定制。 RAG分块本质是信息密度与语义完整性的取…

#百度#文本分块#chunking 策略

面试题·评估· 字节

召回策略怎么选? Recall@k 怎么看?

匹配正文：…/融合后的Recall 评估各路的增量贡献（ablation study）避免"伪多路"——多路召回同一批文档 3. 业务约束延迟P99：向量检索<50ms，重排序<100ms 成本：embedding调用次数、存储规模三、端到端验证（最终标准）离线指标高 ≠ RAG效果好，必须回归：答案准确率（人工/模型评估）幻觉率（检索内容是否被正确使用）一句话总结：Recall@k是必要条件，但需结合NDCG保证头部质量，最终用端到端指标验收。学习建议建议系统学习该知…

#抖音#评估与监控#RAG 召回策略评估

面试题·评估· 阿里

训练/推理/知识增强怎么选?

匹配正文：…理控制：要求基于证据并使用结构化输出；将计算交给代码、数据库和确定性工具。降低温度只减少采样随机性，不能修复错误知识。知识增强：RAG 提供可更新、可引用证据，并配合混合检索、重排、权限过滤和引用定位。检索错误、文档冲突、提示注入或模型忽略证据时仍会失败。后处理：拆分可验证声明，用权威数据源、规则、专用模型或人工复核。验证器也会出错，并增加延迟与成本。产品策略：展示证据和不确定性，允许澄清与“不知道”，按风险限制自动执行范围。评估应分别测检索命中、引用正确性、证据忠实…

#阿里#幻觉治理#大模型幻觉缓解

面试题·评估· 字节

知识库更新策略怎么选?

匹配正文：…消息队列、定时任务）阐述一致性保障机制（双写、版本控制、事务）提及更新对检索质量的影响及重索引策略体现对实际工程权衡（成本、延迟、准确性）的理解知识库更新策略按更新粒度分类全量重建：定期（如每天/每周）重新拉取全部数据、重新分块、重新生成embedding 优点：数据一致性最好，可彻底清理脏数据缺点：成本高、耗时长，适合数据量小或低频变更场景增量更新：仅处理变更数据（新增、修改、删除）基于CDC（Change Data Capture）捕获数据库binlog…

#字节#评估与监控#RAG 知识库更新

面试题·模型微调· 滴滴

大模型落地技术范式怎么选?

匹配正文：…步：需求拆解任务复杂度：单步问答 → ICL/提示工程；多步推理 → Agent 知识时效性：静态知识 → 微调；动态更新 → RAG 可控性要求：高合规场景优先RAG（可追溯来源）第二步：成本权衡数据成本：微调 > RAG > ICL > 提示工程推理成本：Agent > RAG > 微调 > 提示工程维护成本：Agent > RAG > 微调 > 提示工程第三步：滴滴场景示例实时定价：微调（历史订单数据训练，延迟敏感）司机答疑：RAG（政策文档频繁更新+需…

#滴滴#模型微调#Agent

面试题·模型微调· 美团

Reranker 训练数据怎么构造?

匹配正文：…位置，便于重放。 4. 训练与闭环比较点式、对式或列表式损失，并在固定召回候选上评估 MRR、NDCG、Recall@K、校准、延迟及最终答案质量。上线后回流高分误召回、低分漏召回和用户纠错，定期重新挖掘难负样本。结论：高价值数据来自真实候选分布和经过复核的边界样本，样本比例只是超参数，必须通过离线与端到端评测确定。图解 Reranker 训练数据怎么构造?图解

#美团#重排与优化#Reranker 训练数据

面试题·知识图谱· 淘天

GraphRAG 最大技术挑战?

匹配正文：…；schema采用自底向上演化，而非一次性完美设计 2. 多跳推理：准确性与效率的权衡难点：2跳以上推理错误率指数上升；图遍历的延迟难以满足在线要求解法：预计算+剪枝策略：离线计算高频查询路径的子图索引；在线用GNN做路径排序，优先扩展高相关性邻居；复杂查询降级到子图+向量混合检索 3. 图检索与向量检索的融合难点：纯图检索召回不足，纯向量检索缺乏结构约束解法：两阶段融合：先用向量检索召回候选节点，再在局部子图上做图遍历精排；或训练联合编码器，将结构信息注入向量表示 …

#淘天#知识图谱#评估与监控

面试题·知识图谱· 字节

知识图谱怎么动态更新?

匹配追问：…了‘订单状态’，你从知识图谱里查到了物流信息。但过了一会订单更新了，图谱里的数据还是旧的——你怎么让图谱自动跟上变化？层层追问 RAG结合知识图谱的Agent里，图谱数据怎么保持最新？……如果源数据是数据库，你用什么机制捕获变化？……那怎么保证Agent拿到的不冲突？直球架构设计知识图谱的动态更新机制，要支持增量、事件驱动、版本管理，同时兼顾实时性和一致性。说说你的方案，怎么处理冲突和延迟？

#字节#知识图谱#Agent

面试题·知识图谱· 字节

GraphRAG 怎么提升检索效果?

匹配正文：答案要点传统RAG的局限性（语义孤立、全局信息缺失） GraphRAG的核心流程（索引阶段构建知识图谱+社区摘要，查询阶段利用图结构检索）社区发现算法在GraphRAG中的作用 GraphRAG相比传统RAG的三类优势（连接性、全局性、可解释性）实际落地时的权衡（成本、延迟、图谱质量）传统RAG的局限传统RAG将文档切分为独立文本块，通过向量相似度检索。问题在于：语义孤立——文本块间的关系丢失；全局信息缺失——无法回答"总结全书主题"这类跨文档问题。 GraphRA…

#字节#知识图谱#GraphRAG

面试题·知识图谱· 高德

知识图谱实时性怎么保证?

匹配口述回答：这道题其实问的是，当[[知识图谱]]和 [[RAG]] 结合时，怎么平衡数据的实时性和系统的稳定性。我的核心思路是分层解耦加增量流水线，而不是搞一个万能方案。先说分层。我会把知识图谱里的数据按变化速度分成三层。第一层是本体层，就是知识图谱的骨架，比如实体类型、关系定义，这个很稳定，人工维护，季度更新一次就够了。第二层是实体关系层，比如商家信息、商品目录，变化慢但会变，我一般做小时级或者 T+1 的增量更新。第三层是动态事实层，比如实时路况、库存状态、优惠券是否被领完，这种变…

#高德#知识图谱实时性#RAG 知识图谱

面试题·Prompt· 华为

Prompt Engineering 技巧怎么选?

匹配正文：…个人业绩。回答框架任务：真实输入输出、风险、失败类型和评价指标。技巧：说明实际采用角色/边界、上下文分隔、Few-shot、检索增强、工具 schema、结构化输出或结果校验中的哪些。机制：解释每项技巧针对哪个可观察错误，而不是罗列名词。实验：固定模型、数据与解码参数，对 Prompt 版本做消融和切片。生产：版本管理、监控、提示注入防护、回滚和成本约束。事实填空在【真实任务】中，基线 Prompt 为【】，常见错误为【】。我负责【】，采用【真实技巧】解决【对…

#华为#Prompt工程#Prompt Engineering 技巧

面试题·RAG· 蚂蚁

增量式向量索引怎么更新?

匹配正文：…用 WAL 或消息队列传递变更。消费端按文档版本和事件 ID 做幂等处理，把新向量写入 Delta 索引。插入成本、锁模型和可见延迟以具体引擎实现为准。查询同时搜索稳定的 Base 索引和 Delta 索引，合并候选、按文档版本去重，再执行过滤和排序。 2. 修改与删除若引擎原生支持可验证的 upsert 或 delete，可以直接使用并持续监控召回变化。若物理删除会影响图连通性或实现不支持安全更新，则把修改表示为旧版本失效加新版本写入，把删除记录到精确的 tombs…

#蚂蚁#增量式向量索引#向量索引更新