匹配正文：答案要点区分"检索准确"与"生成失败"的边界，定位问题根因掌握提示工程、上下文压缩、重排序等轻量级优化手段理解SFT/RLHF在RAG场景的特殊性（如拒答能力、引用忠实度）提及系统级方案如多模型路由、生成后校验问题定位：检索准≠生成好先确认是生成能力不足还是检索-生成对齐问题：检索片段本身矛盾/冗余 → 上下文组织问题模型忽略检索内容、自由发挥 → 注意力对齐问题模型无法理解专业领域知识 → 领域适配问题分层优化策略 1. 提示工程（零成本）显式指令：强…

#生成模型调优#上下文利用#RAG 生成不准确

面试题·RAG

LLM 封闭标签方法对比

匹配标题与标签：LLM 封闭标签方法对比封闭标签分类的 Prompt、约束解码、后处理和微调对比 RAG 封闭集合分类约束解码 LLM 封闭标签方法对比 LLM 怎么严格输出预定义标签？方法对比与选型 LLM 输出限定标签

#封闭集合分类#约束解码#LLM 封闭标签方法对比

项目实战·RAG

第 7 章:Query 理解与改写

匹配正文：…选都很少,judge 得又快又准,代价是要维护一棵两层的意图树。业内行话:这道题(几百个意图怎么做)是高阶面试题,很多人会卡在"prompt 塞不下"就答不下去。能说出"把意图当文档去检索、先召回再判断",把前面学的检索能力迁移过来:立刻显出体系化的工程思维,而不是只会堆 prompt。 🏆 Part 3 · 验收串题｜ ~10% 学到这一步,做几道题验证一下,知道自己学到位没。关联面试题(5 道,覆盖 5 个角度) 【意图识别作用】 RAG 系统中意图识别模块承担什…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#RAG#检索#项目实战

面试题·RAG

Chunk Size 和 Overlap 怎么选？不要背 512 和 100

匹配正文：…查询命中边界区域时，Top K 里可能出现内容高度相似的 A、B、C，表面上召回了三条，实际上只有一份证据。它们还会一起进入重排和提示词，占用候选位、计算和上下文长度。因此，overlap 解决的是边界连续性，不应该拿它替代正确的结构切分。章节、表格、代码块或列表已经被错误拆散时，盲目扩大重叠只是复制错误。 Overlap 只修边界，不修错误结构先把结构切对，再在确有断裂风险的边界补最小必要上下文。为什么不能复制别人的参数即使两套系统都叫“企业知识库 RAG”，以下差…

#RAG#切分与索引#Chunk Size

项目实战·RAG

第 8 章:多轮对话与记忆管理

匹配正文：…跨次聊天的懂你"。小项目先把短期做好就够用了。概念 3:为什么对话历史不能"全塞给模型"? 最朴素的想法是:把所有历史都拼进 prompt 不就行了?不行:大模型一次能读的 token 有上限(第 1 章讲过),对话一长就塞不下;而且塞太多旧的、无关的,反而会干扰生成(还记得第 6 章的 Lost in the Middle 吗)。所以记忆模块的核心工作之一,就是有策略地"选"和"裁":留住该留的,压缩或丢掉没用的。 🛠️ 跟着做:30 行实现"带记忆 + 指代消解"的…

#RAG#检索#项目实战

项目实战·RAG

第 9 章:上下文问答与引用溯源

匹配正文：…· 验收串题｜ ~10% 学到这一步,做几道题验证一下,知道自己学到位没。关联面试题(5 道,覆盖 5 个角度) 【上下文拼 Prompt】生成阶段如何基于检索文档和用户查询,把上下文整合进 Prompt 来引导大模型作答? 中等 → 【检索对了生成还差】检索已返回相关文档,生成仍不理想,可能的原因有哪些(提示工程/上下文建模/微调)? 中等 → 【RAG 缓解幻觉】 RAG 如何通过引入外部知识缓解幻觉?实现机制和效果边界是什么? 较难 → 【输出真实性验证/溯源】…

#RAG#检索#项目实战

面试题·RAG

Chunk 为什么要带标题、页码和前后片段 ID？

匹配正文：…已经被新版本替换？当前用户又是否有权查看？如果 Chunk 里只有正文和向量，这些问题都无法可靠回答。于是，面试官会继续问： RAG 的 Chunk 除了正文，还应该保存哪些 metadata？这些字段分别解决什么问题？常见回答是列出一串字段：doc_id、page、title、created_at、prev_id、next_id。字段名背得再多，也不等于设计合理。真正需要回答的是：哪个字段参与搜索前过滤，哪个字段补足语义，哪个字段帮助取回上下文，哪个字段让用户回到原…

#RAG#切分与索引#RAG Metadata

项目实战·RAG

第 10 章:系统评估与上线优化

匹配正文：…么提速。 2.1 评估五维度:别只盯着"准不准" 评估上线准备时,光看"答得对"通常不够。可以按业务风险从下面五个维度选择指标: RAG 评估的五个维度 ① 召回 / 准确:检索用 Recall@k、MRR;生成用 BLEU、ROUGE 对比参考答案。 ② 可信度:答案里有几成内容能在检索到的原文里找到依据(覆盖率)。 ③ 响应速度:平均延迟,以及 P95 / P99 尾延迟(95%、99% 的请求多久内返回)。 ④ 可扩展性:数据涨到百万级、并发上来后,QPS(每秒查询数)…

#RAG#检索#项目实战

面试题·RAG

Rerank 为什么更准，却不能对整个知识库运行？

匹配正文：… Top-K 也不能只按模型上下文长度设置。保留太少，可能丢掉多段互补证据；保留太多，相邻重复、冲突版本和弱相关内容会一起进入 Prompt。最终要结合问题需要几段证据、Chunk 长度、冗余和生成预算决定。不同 Query 也未必需要相同候选量。精确编号、明确标题已经由关键词路线高置信命中时，可以减少复杂处理。表达模糊、需要多段证据或候选高度相似时，才可能需要更宽的候选和精排。这是一种按问题风险分配计算的思路，不是给每次请求固定堆满组件。 Rerank 模型应该怎么…

#RAG#检索与重排#RAG Rerank

面试题·RAG

Query 重写、扩写和 HyDE，应该在哪些查询上启用？

匹配正文：… 它可能补错实体、时间和结论，也可能在资料根本没有答案时生成一段看似完整的说明。如果系统把假设答案直接展示给用户，就已经越过了 RAG 的证据边界。即使只用它做检索，也存在带偏风险。错误假设会把向量推向错误主题，随后召回一批“支持”假设的相似文本。更稳妥的方式是把 HyDE 当成一条可撤销的检索路线。原 Query 仍然保留，假设文本单独记录。两路可以并行召回，再根据稳定 ID 合并。若 HyDE 路线没有带回可核验证据，最终回答不能引用假设文本补空白。精确编号、产…

#RAG#检索与重排#RAG Query 重写

面试题·RAG

Embedding 和 Rerank 模型怎么选？什么时候值得领域微调？

匹配正文：先分清：Embedding 和 Rerank 各自对什么结果负责 RAG 的检索链路可以先想成一场两阶段筛选。第一阶段面对的是整座知识库。系统把用户问题编码成向量，再从大量文档片段里快速找出一小批候选。Embedding 模型的任务不是直接判断最终答案，而是把可能包含答案的片段尽量送进候选集。它如果漏掉了正确证据，后面的模型再聪明也无从补救。第二阶段只看这批候选。Rerank 模型把问题和每个候选片段放在一起判断相关性，然后重新排列顺序。它更擅长处理“关键词很像，但并没有…

#RAG#检索与重排#Embedding 模型选型

面试题·RAG

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…近邻，再在结果末端补权限过滤，不仅可能浪费候选名额，也会增加数据越界风险。第五步：融合时处理冲突检索到记忆后不能直接全部拼入 Prompt。系统需要检查时间、状态、主题和来源。当前用户明确修改了偏好，新值应使旧值失效；长期记忆与当前会话冲突时，应优先使用用户刚刚确认的信息；个人记忆与权威知识库事实冲突时，回答事实应以最新权威来源为准，并在必要时请用户澄清。模型输入中最好区分“当前问题”“知识库证据”“会话状态”“长期记忆”，让各类信息的身份清楚。否则模型无法知道某句话是…

#RAG#生成与对话#RAG 记忆模块

面试题·评估· 百度

LLM 准确性提升四大路径

匹配正文：…。自一致性只说明多个采样同意，不等于事实正确。解码参数、验证器和工具执行应按任务选择，代码用测试，数学用可检查计算，不能靠一条统一prompt解决。外部增强方面，RAG能把回答连接到可更新语料，但仍可能召回错误、忽略证据或错误引用。工具调用可以把搜索、计算和数据库查询交给外部系统，同时新增权限与注入风险。检索质量、证据支持率、答案忠实度和拒答都需单独评测。我的实验会先建立无增强基线，再分别加入数据改进、偏好优化、推理提示、检索或工具，每次只改变有限变量。按事实、推理、帮助…

#数据质量#训练策略#推理优化

面试题·Agent· 字节

Agent 架构的取舍与适用条件

匹配正文：…票"需比价、查规则、下单）需多工具组合（搜索+计算+API调用）可接受2-5秒延迟不适合Agent：单轮问答、FAQ类（纯RAG或Prompt即可）延迟敏感（如实时客服首响<1s）容错率极低（医疗诊断等）字节实际案例参考：抖音电商客服中，简单退换货走固定Workflow，复杂纠纷升级Agent处理，兼顾效率与灵活性。学习建议建议先掌握大模型基础能力与RAG流程，再学习Agent的决策、规划、工具调用机制，结合实际案例对比端到端模型与Agent的优劣。

#字节#Agent#Agent 架构

面试题·Agent· 小红书

冷启动新用户怎么推荐?

匹配正文：…与相似用户做embedding对齐社交关系特别处理：用GNN学习"好友兴趣分布"作为先验，但引入关系强度门控避免过度泛化。四、RAG增强的生成机制检索源：平台热门内容摘要、相似用户的高频交互、领域知识图谱（如"露营→装备清单"）生成增强：将检索结果作为few-shot示例注入prompt，约束生成内容的平台相关性反思机制：生成后自检"该推荐是否过于热门/是否利用了已知信息"，触发重生成五、落地关键快速反馈闭环：首屏3次交互内必须完成兴趣初筛，否则用户流失生成内…

#小红书#Agent#冷启动推荐

面试题·Agent· 高德

旅行Agent怎么拆解任务?

匹配正文：…RAG与Agent的融合点：融合位置具体做法需求解析阶段检索相似用户画像的历史行程，辅助理解偏好规划决策阶段每步选址时RAG检索：景点实时开放状态、周边餐饮评分、当前拥堵指数验证阶段检索最新政策（如预约要求）、用户UGC避坑提示关键实现：将RAG检索结果以结构化工具输出形式注入Agent的ReAct推理链，而非简单拼接Prompt，确保Agent能主动判断信息可信度。三、信息流转与状态管理用户输入 → 需求解析Agent → 更新[用户画像槽位] ↓ 触…

#高德#Agent#旅行Agent

面试题·Agent· 蚂蚁

模糊意图怎么补全?

匹配正文：… 问题生成：模板填充 → 大模型生成（需控制长度、选项数量）终止策略：用户确认完成 / 达到最大轮数 / 检测到放弃信号 4. RAG与Agent的协同机制用户输入 → 意图识别 → [需要补全?] ↓ 是 RAG检索: 领域知识 + 用户历史 + 相似案例 ↓ 生成追问/候选选项 → 用户反馈 → 更新DST → 循环或执行动态检索：每轮根据当前状态构造查询，非一次性检索知识注入：将检索结果作为prompt中的context，明确标注来源蚂蚁场景要点金融域合规优…

#蚂蚁#Agent#Agent意图补全

面试题·文档处理· 京东

Chunking 策略怎么平衡上下文与精度?

匹配口述回答：这道题其实问的是，在[[RAG]]系统里怎么切文本才能既保证语义连贯又不让检索跑偏。说白了，[[分块]]就是在上下文完整性和检索精确性之间找平衡。块太大，噪声多，[[embedding]]被稀释，精度掉得厉害；块太小，语义割裂，LLM拿到的上下文不够，答非所问。那具体怎么做呢？先说说几种常见策略的适用边界。固定长度分块，按token或字符数硬切，实现简单，适合快速上线，但对自然语言不友好，容易在句子中间断开。语义分块用embedding相似度判断边界，能保持语义完整，适合高…

#京东#RAG Chunking 策略#文本分块最佳实践

面试题·文档处理· 字节

医疗法律文档切块

匹配正文：…文件智能体切块（Agentic） LLM先读全文，按主题/事件主动划分最贴合人类理解、可提取跨段落关联成本高、延迟大、需设计prompt 超高价值文档、需要深度推理的场景医疗/法律领域的实践要点 1. 优先保结构法律：以"条款→款→项"为最小单元，而非固定长度医疗：以"主诉-现病史-检查-诊断"等病历章节为边界 2. 元数据增强 chunk = { "content": "...", "source": "民法典第X条第X款", "parent_section":…

#字节#医疗法律文档切块#医疗和法律文档怎么切块？结构、语义与引用边界

面试题·评估· 美团

LLM 幻觉治理方法对比

匹配正文：…/冲突数据、知识边界标注、课程学习效果：基础但长尾，无法解决训练截止后新知识问题局限：成本高，且模型仍可能"过度泛化" 2. RAG（检索增强生成）做法：外挂知识库，将检索到的相关文档拼入Prompt 效果：对事实性幻觉效果显著，可追溯来源关键：检索质量决定上限，需解决检索失败和内容冲突美团实践：结合实时业务数据（如商户信息）做领域RAG 3. 解码策略优化方法核心思想适用场景 Contrastive Decoding 对比大/小模型输出，惩罚低置信token…

#美团#幻觉治理#LLM 幻觉治理方法对比

面试题·评估

检索准但生成差，怎么调优？

匹配正文：…题复杂度调整送入LLM的文档数量 2. 生成模型/推理优化微调策略：用领域数据SFT，强化"基于给定上下文回答"的指令遵循能力 Prompt工程：添加显式约束，如"若上下文无法回答，请明确说明" 解码策略调整：降低temperature减少发散，或改用CoT激发推理能力 3. 反馈闭环机制收集"检索准但生成错"的样本，构建针对性训练集引入Self-RAG或迭代生成：让模型先生成、再自检、后修正三、快速决策口诀现象诊断结论优先动作换人工文档后变好检索问题优化…

#上下文压缩#生成调优#RAG 效果诊断

面试题·RAG

大模型幻觉是什么？怎么缓解？

匹配正文：…它优化的是“像不像人话”，不是“是不是事实” 训练数据有错漏、知识有截止日期、模型不知道自己不知道，三者共同加剧幻觉缓解三板斧：RAG 提供事实依据、提示词约束引用来源、允许模型说“不知道” 幻觉只能缓解、无法根除，高风险场景必须保留人工审核兜底核心概念大模型幻觉（Hallucination）是指模型生成了看似流畅合理、实际却与事实不符或凭空捏造的内容，比如编造不存在的论文、虚构法律条文。它最危险的地方在于“说得特别像真的”，普通用户很难分辨。幻觉为什么会发生本质是…

#入门#基础概念#大模型幻觉

面试题·模型架构

上下文窗口是什么?超了怎么办?

匹配正文：…简单;关键信息可能被丢,用户感觉「失忆」摘要压缩把久远内容总结成短摘要放回上下文保留主干;细节丢失,摘要本身也要耗一次调用 RAG 长资料切块存入向量库,提问时只检索最相关的几块塞进上下文资料可以无限大;但引入「检索质量」这个新变量实际工程的组合拳成熟的对话系统通常是:最近几轮对话保留原文 + 更早的对话滚动摘要 + 领域知识走 RAG,三者拼成最终的 prompt。入门后可以深入长上下文外推技术(RoPE 插值、YaRN),以及「窗口大了但中间内容记不住」的 …

#入门#基础概念#上下文窗口

面试题·Prompt· 百度

Agent系统架构怎么选？

匹配正文：…───────────┤ │ 能力层 │ 工具注册中心 │ │ (Tools) │ 记忆管理(短期/长期) │ │ │ 知识检索(RAG) │ ├─────────────────────────────────────┤ │ 执行层 │ 工具执行沙箱 │ │ (Execution)│ 结果校验与重试机制 │ └─────────────────────────────────────┘ 核心组件设计 1. 推理引擎：ReAct + Function Calling 双模态 …

#百度#评估与监控#Agent