搜索大模型内容

RAG Chunk 为什么不能只按固定字数切？

匹配正文：…e 上限是否过大。不能只通过调低检索门槛解决，因为根因是表示本身不聚焦。表格数据有值却没有表头（教学示例）正确数值可能被召回，模型却不知道它对应费用、期限还是数量。检查表格是否作为结构单元处理，长表格拆分后是否为每个块继承表头，以及表格标题和页码是否保留。前几条结果几乎一模一样（教学示例）这通常与固定重叠或重复入库有关。先查看相邻 Chunk 的重复比例和来源位置，再判断是 Overlap 过大，还是同一内容被不同版本写入。不能仅靠 Rerank 掩盖重复，因为候…

#RAG#切分与索引#RAG Chunk

#Agent#Deep Research#项目实战

第 7 章:Query 理解与改写

…ub.com/MisterBooo/rag-from-zero clone后先阅读项目首页的配套代码与运行环境，把零依赖演练与完整模型/API链路分开验证本章的重写 + 扩写 demo(零依赖)也在里面欢迎 Star ⭐ / Issue 反馈导航 ← 上一章:重排与检索优化 | 下一章:多轮对话与记忆管理 → | 回到项目首页

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

匹配正文：

#RAG#检索#项目实战

项目实战·Agent

第 7 章:工程化上线:推理优化、并发与成本

匹配正文：…怎么把成本压下来 🔗 关联面试题:5 道(覆盖 5 个角度,见 Part 3) 🧭 这一章讲什么:推理优化、并发、降本这些是大模型应用工程师的硬通货。本章把通用原理和调研 Agent 上线特有的挑战讲清楚,面试和实战都够用。这一章你会学到什么 ✓ 想清一个根本落差:训练好的模型 ≠ 能上线的服务,真实流量来了要面对并发、延迟、成本、稳定性 ✓ 搞懂推理服务的关键指标(TTFT / TPOT / 吞吐 / 单次成本),以及 LLM 推理为什么天生慢且贵 ✓ 掌握两个最核心…

Chunk Size 和 Overlap 怎么选？不要背 512 和 100

匹配正文：…度、合同和技术手册则可能把定义、条件、例外和步骤分散在多个自然段。平均长度相同，并不代表证据跨度相同。第二，Embedding 模型的输入限制和训练方式不同。如果块长超过当前 Embedding 模型实际接收的长度，超出部分可能被截断；是否截断、从哪里截断，要以所用模型的文档和实测结果为准。即使没有截断，长块里混入多个主题，也可能让向量表达变得不够聚焦。不能只看数据库保存了多少字，还要确认多少内容真正进入了向量编码。第三，检索和重排链路不同。只用向量召回、向量加 BM…

#RAG#切分与索引#Chunk Size

第 9 章:上下文问答与引用溯源

匹配正文：…demo 零依赖,直接跑 ✅ 最好先读过第 3 章(chunk 的 section_path 元数据)和第 5、6 章(检索 + 重排),这一章用的就是它们的产出先看一个生成失败演练(这是本章的"为什么") 下面使用合成条款和问题说明生成环节的两类风险,不是客户项目或线上事故。检索、重排之后,系统还要把检索到的条款交给 LLM 组织答案: 它会编。知识库没有依据时,模型仍可能生成看似确定的答案。它说不清凭什么。即使答案方向正确,如果给不出出处,使用者仍无法核验。可以…

#RAG#检索#项目实战

Chunk 为什么要带标题、页码和前后片段 ID？

匹配正文：…线进入候选。一条引用最好拥有稳定、可验证的生成路径。检索返回内部 chunk_id 和来源区域，生成阶段只为已有候选分配短编号，模型输出编号后由服务端映射成文档标题、页码与链接。模型不能自行填写文件名和页码，前端也不能只根据标题模糊搜索。这样引用错了时，可以区分“模型选错证据”和“证据定位字段丢失”，而不是把两类问题混成一次回答错误。同一段证据经过 Rerank、去重或相邻扩展后，身份也不能丢。可以为最终上下文保存从原候选到展示证据的映射：它由哪条 Query 找回，是否…

#RAG#切分与索引#RAG Metadata

第 10 章:系统评估与上线优化

匹配正文：…thon(列表、字典、函数) ✅ 本章 demo 零依赖,直接跑 ✅ 最好读过第 3 章(召回率概念)和第 5、6 章(检索 + 重排),这一章是给它们"打分"的先看一个评估缺失的教学场景(这是本章的"为什么") 下面是为了说明评估流程而构造的团队讨论,不是作者或学员的客户项目记录。前面九章一路在"优化":换切分、上混合检索、加重排……每次改完都有人说"感觉更准了"。这时应该追问:"准了多少?你怎么知道是真变好,不是错觉?" 如果回答不出来,说明团队仍在凭感觉调参。改了 A…

#RAG#检索#项目实战

手把手把 RAG 教程做成"你自己的"项目

匹配正文：…么流" 文档预处理与切分 chunk 策略 + 大小的对比数据 "切多大、为什么、试过别的吗" Embedding 选型选了哪个模型、和备选的对比 "为什么这个 embedding,维度/成本怎么权衡" 检索召回·混合检索向量+关键词混合的召回对比 "只用向量行不行、混合提升了多少" 重排与检索优化加 rerank 前后的指标变化 "rerank 解决什么问题、值不值这点延迟" Query 理解与改写改写/扩写对难 query 的效果 "用户问得含糊你怎么办" 多轮与…

做一个 Agent 项目怎么做:从最小 Agent 到 Deep Research

匹配正文：… 项目多了"自主决策 + 多步 + 工具 + 失败恢复",工程复杂度和不确定性都更高,面试更看你对稳定性和可控性的把握。RAG 里模型基本是"给定检索结果作答";Agent 里模型要自己决定下一步调哪个工具、什么时候停、失败了要不要重试换路。这就是为什么 Agent 项目更难讲清、也更值钱。维度 RAG 项目 Agent 项目主链路检索 → 重排 → 拼上下文 → 作答观察 → 决策 → 调工具 → 再观察(循环 N 步) 控制流基本线性,一次调用出结果循环 + …

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：…相关但缺少关键条件、询问旧资料之外的新版本、需要的两份证据只存在一份。然后用同一套检索配置跑完两组问题，记录最高分、前几条候选、重排分数、关键词覆盖和最终动作。调门槛时要同时观察两类错误。一类是误拒绝。资料里明明有答案，系统却说没有依据。另一类是错误放行。资料里没有答案，系统仍然让模型生成。二者不会同时自动变好。从阈值取舍上看，门槛提高时，错误放行可能减少，误拒绝却可能增加；门槛降低时，回答率可能上升，无依据回答也可能一起上升。最终变化必须用同一批正反样本验证。用…

#RAG#生成与对话#RAG 无答案检测

项目深挖:面试官会怎么一层层追问你的项目

匹配正文：…的方式就是顺链下探。【RAG 项目追问链·核心】面试官会顺这条链一层层问一句话:面试官从业务问题问起,顺着"文档→切分→检索→重排→溯源→评估→badcase→成本"往下走,每一环都在验证一件具体的事。下表逐环拆开,照这个顺序把自己的证据补齐,你就知道链会断在哪。追问点面试官想验证什么你该怎么答(带证据) 站内哪里补业务问题你是不是为真问题做的,还是为做而做说清给谁用、痛点是什么、为什么不用纯大模型或微调为什么需要 RAG 文档处理你有没有碰过真实脏数据 …

领域八股速通:RAG / Agent / 评估 / 微调高频考点地图

匹配正文：…与监控题库。重排与优化(70 题):验证你会不会救召回重排是 RAG 里"召回准不准"的关键一环,效果好坏经常卡在这。面试官问重排,是想确认你不只会 embedding 一把召回,还懂用 rerank、混合检索去补救长尾和边角 case。维度内容面试官在验证什么你是否理解召回为什么会掉、rerank/混合检索/多路召回怎么补,以及各自的代价先看哪个 RAG 重排章代表题型 "为什么要 rerank""向量召回和 BM25 怎么结合""重排模型怎么选""topK…

#Agent#工具调用与安全#Text2SQL Schema 选择

多轮 RAG 如何理解“这个怎么申请”？

匹配正文：…，用改写后的问题检索。结果不足时，按策略回退原问题、并行两路检索，或者向用户请求澄清。第六步，把检索证据、当前问题和必要历史交给模型，生成后更新会话历史和摘要。多轮 RAG 从话题判断到记忆更新的链路改写只是检索前的一步，保留原问题、检索证据和生成后的记忆更新同样重要。最直观的做法是：先从最近历史中选出与当前轮有关的内容，让模型把当前问题改写成一个完整、独立的问题；当改写后检索不到合格内容时，再回到原始问题重新搜索。这个回退非常重要。 Query 改写本质上也是一次…

#RAG#生成与对话#多轮 RAG

面试题·Agent

Text2SQL 面对上百张表，怎样选对 Schema 并处理业务歧义

匹配正文：…标，关系图补充订单主键。只搜表名可能只找到一张 payment 表，遗漏退款调整。候选表要带入相关列，而不是把每张表全部字段送入模型。保留主键、外键、指标字段、过滤字段、时间字段和必要维度字段。敏感或无关列继续排除。召回阶段追求“正确表列在候选里”，但候选不能无限扩大。可以先按数据域和权限硬过滤，再语义召回和重排。阈值与候选数量需要根据评测集校准，不应在没有数据时给固定数字。找到表还不够，还要补齐 Join 路径用户问题常跨越事实表和维表。单独召回到订单、客户和地区表…

RAG 评测集怎么构建？问题、答案和证据必须怎么标？

匹配正文：…原文是否真的支持对应陈述，以及用户能否回到正确位置。 RAG 各层指标与问题定位矩阵检索指标回答“证据找得怎样”，生成指标回答“模型怎样使用证据”，二者不能混成一个总分。举个诊断思路。 Recall@K 下降时，可以检查解析、Chunk、Query、过滤和召回。Recall 正常而 MRR 下降，融合与重排更值得优先检查。正确证据已经排在前面，Faithfulness 却下降时，再看 Prompt、上下文组织和模型生成。一个总分无法给出这种定位能力。开发集、回归集和保…

#RAG#评测与上线#RAG 评测集

Recall@K、MRR、Faithfulness，分别在评估 RAG 哪一层？

匹配正文：…一组候选 Chunk。这里要回答的是“应该找到的证据找到了多少”“返回内容里噪声有多少”“最有用的证据排在哪里”。候选经过融合、重排和截断，真正进入 Prompt 的上下文往往只是其中一部分。这里要回答的是“生成模型实际看到的证据是否充分”。检索 TopK 命中了正确 Chunk，不等于这个 Chunk 最终一定进入上下文。它可能在 Rerank 后被挤掉，也可能因为上下文长度限制被截掉。生成模型根据上下文写出答案。这里至少有三个不同问题：答案是否覆盖参考答案的要点，回答…

#RAG#评测与上线#RAG 评估指标

RAG 首字响应为什么慢？Embedding、检索和生成怎么逐段优化？

匹配正文：用户点下发送以后，页面空了很久，随后答案一口气开始出现。遇到这种现象，一种常见判断是大模型太慢，需要换一个更快的模型。但一条 RAG 请求在模型生成第一个字之前，已经经过 Query 处理、Query Embedding、关键词与向量检索、候选融合、Rerank 和上下文构建。真正的等待可能发生在其中任何一段。从调用依赖关系看，模型要等检索证据准备好，才能开始基于证据生成。因此，如果向量检索阶段很慢，流式输出只能改变第一个 Token 之后的展示，不能缩短前面的检索等待…

#RAG#评测与上线#RAG 首字响应

#Transformer#Encoder-Decoder架构#自注意力机制

一个可上线的 RAG 系统怎么拆？离线入库、在线问答和监控如何闭环？

匹配正文：…类题：一个可上线的 RAG 系统应该怎样拆？离线入库、在线问答、数据存储、权限、降级和监控怎样形成闭环？只画“文档、向量库、大模型”三格图，通常接不住后续追问：一份文档只解析了一半，怎样恢复？用户权限应该在哪一层生效？向量服务或 Rerank 超时，系统怎样降级？线上答案错了，怎样定位证据在哪一步丢失？为什么离线入库和在线问答不能混在一起？离线入库追求的是完整、可恢复和可追踪。它要面对文件格式差异、OCR、表格、跨页内容、Chunk、Embedding 和批…

#RAG#评测与上线#RAG 系统设计

面试题·项目与经历· 商汤科技

项目局限性与改进方向

匹配正文：…aithfulness、最终任务成功和延迟成本。召回提高可能带来更多噪声，但并不存在“召回和幻觉天然此消彼长”的定律。top-k、重排、上下文组织、模型能力和任务分布共同决定结果，必须用同一评测集做曲线。不得补写候选人的召回率、优化周期和涨点。一个有说服力的局限，来自可复现失败、根因证据和明确的风险边界。

#项目复盘#技术债务#系统优化

面试题·项目与经历· 美团

项目难题怎么定位与解决?

匹配正文：…，不能直接证明 embedding 负样本不足。定位时要按查询类型和文档类型切片，先查知识覆盖率、切分与元数据，再分别测候选召回、重排排序、上下文组装、引用支持和最终答案。召回层至少看 Recall@k 或命中率，排序层看 MRR、NDCG 或人工偏好，生成层看答案正确性、证据支持率和拒答行为。方案必须对应证据。若文档根本没有答案，应补知识而非训练 embedding；若候选集中有答案但排序靠后，再检查查询改写、向量模型、负样本和重排；若证据正确但答案错误，则处理提示、上下…

#问题定位#工程实践#跨团队协作

面试题·模型架构· 海尔

Encoder vs Decoder 核心区别?

匹配口述回答：…r memory中的相关源位置，最后输出下一个token分布。这样同时利用目标语言历史和完整源语言信息。 Decoder-only模型把系统指令、用户输入和已生成前缀放在同一个因果序列里，所有条件都通过causal self-attention传递。它没有独立的源序列编码阶段。Encoder-only模型常用于分类、检索、rerank和token标注，decoder-only常用于开放生成，encoder-decoder适合输入输出边界明确的条件生成；这些是常见适配，不是说某…