搜索大模型内容

Chunk Size 和 Overlap 怎么选？不要背 512 和 100

匹配正文：…：大块更容易保留长证据，但主题可能混杂，单次向量表示更粗。小块主题更集中，但需要更多块才能拼成完整证据，边界风险更高。同一个知识库里，FAQ、规章条款、表格说明和技术文档的合适粒度可能不同。 overlap 控制的是相邻块之间保留多少共同上下文重叠窗口的目的，是让切分点附近的前提和结论至少在某一个块中共同出现。假设块 A 末尾是“申请人应满足以下条件”，块 B 开头是“第一，已完成身份核验”。如果 B 完全不带前文，单独召回 B 时语义会变弱。让 B 带上一小段 A…

#RAG#切分与索引#Chunk Size

面试题·Agent

Function Calling 到底怎么跑？模型不会执行函数，完整工具结果循环怎么实现

匹配正文：…、什么时候不要用”。参数要限制类型、必填项、枚举和范围。模型不知道你的隐含业务规则，如果只写“查询信息”，它很难判断应该查订单、查知识库还是搜索网页。描述也不能承担安全责任。你可以写“只能查询当前用户订单”，但真正执行前仍然必须从服务端身份获得用户 ID，再做数据权限检查。不能相信模型传入的 user_id，也不能因为 Prompt 说“不要越权”就跳过后端鉴权。第二步：模型返回的是调用请求，不是调用结果应用把 messages 和 tools 发给模型后，模型有两种主…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

#Agent#工具调用与安全#Function Calling 完整流程

项目实战·RAG

第 8 章:多轮对话与记忆管理

匹配正文：…把"有记忆 vs 没记忆"的差别跑出来。 3 个核心概念(先白话,再术语) 概念 1:什么是"记忆模块"? 前面 7 章主要讨论从知识库检索证据;知识库也会更新,检索结果还会受权限、过滤和查询影响。多轮系统另外需要保存线程状态或按需取回经授权的跨会话信息,例如上一句指代的对象、当前任务状态或明确记录的偏好。负责这些职责的,可以统称为记忆机制。它可以理解成和检索模块并行的"第二个上下文来源":检索管"看即时知识",记忆管"记往日事"。记忆模块:和检索模块并行的第二个上下文来…

#RAG#检索#项目实战

跨页表格、代码块和图片怎么切，才不丢结构？

匹配正文：假设知识库里同时放了三类资料。第一类是一张跨两页的费用标准表。第一页有表头和前半部分数据，第二页只剩下后半部分数据。第二类是一段 Python 代码。函数定义在上面，异常处理和返回值在下面。第三类是一张流程图。图里真正重要的不是几个节点名称，而是节点之间谁先谁后、哪一步失败会走哪条分支。如果把它们都转成纯文本，再按固定字数切块，会发生什么？表格第二页只剩下一串数字，模型不知道每一列代表什么。代码可能从函数中间断开，缩进和上下文一起丢失。流程图虽然识别出所有文字，却看…

#RAG#切分与索引#RAG 表格切分

项目实战·RAG

第 9 章:上下文问答与引用溯源

匹配正文：…款和问题说明生成环节的两类风险,不是客户项目或线上事故。检索、重排之后,系统还要把检索到的条款交给 LLM 组织答案: 它会编。知识库没有依据时,模型仍可能生成看似确定的答案。它说不清凭什么。即使答案方向正确,如果给不出出处,使用者仍无法核验。可以给生成环节加两道硬约束:① 仅依据检索到的资料回答,没有依据就拒答;② 为关键结论标出处 [编号],并能点回原文。这两件事,就是本章的主题:上下文问答和引用溯源。约束效果仍需用无答案集、引用正确率和人工复核验证。一句话:引…

#RAG#检索#项目实战

Chunk 为什么要带标题、页码和前后片段 ID？

匹配正文：…而是检索链路的一部分只保存正文和向量，确实能做出一个演示版本。用户问题被编码成向量，向量库找到相近文本，再交给大模型回答。只要知识库很小、文档没有版本、所有用户权限相同，系统看起来也能工作。一旦进入多文档场景，问题马上出现。下面仍然用教学场景说明常见故障。在这个纯教学例子里，假设用户只想查某个知识库，系统却从另一个知识库带回内容；旧制度与新制度文字相似，旧版本反而排得更靠前；检索命中“但以下情况除外”，模型却看不到上一段的适用条件；回答末尾只显示一个文件名，用户打开后…

#RAG#切分与索引#RAG Metadata

大模型技术栈全景:RAG / Agent / 微调 / 推理 / 评估各是什么、面试考多少、怎么学

匹配正文：…键能力 / 组件站内承接谁更该往这层做深应用层直接面向用户/业务的形态 RAG 问答、Agent、AI Coding、企业知识库、研究助手 RAG 智能问答系统、Deep Research Agent、AI 编程实操两条线都要有一个 Agent Harness 层让 Agent 稳定跑起来的工程骨架状态管理、工具注册、权限确认、trace、replay、错误恢复、成本控制 Agent 题库、工具与函数调用章、记忆管理章开发/Java 后端线的主场 Data /…

没有大模型项目经验,怎么攒出能写进简历的项目

匹配正文：…fer 先做一个可展示项目,再围绕目标公司补题和表达 211 金融本硕金融科研经历有,但 AI 实战为空,跨专业劣势明显做金融知识库问答和智能风控 Agent,把金融背景接到 RAG/Agent 链路上收到蚂蚁金融大模型算法岗 offer 行业背景要进入语料、业务流程和评估指标,不能只写在教育经历里 985 控制本硕原本只准备后端,项目简易,投递反馈弱改做金融场景大模型项目,补 RAG、Agent、上下文工程和面试讲法拿到金融行业双 offer 如果原赛道不顺,不…

RAG 为什么要同时用 BM25 和向量检索？

匹配正文：…尺子，结果怎样合并，为什么还要重新排序？你怎样用一批带正确原文的问题，证明混合检索确实比单路更合适？先看两个教学用的问题。假设知识库里有一篇“保险销售技巧”，用户问的却是“如何推销保险产品”；另一份文档的标题是“报销制度”，用户也只输入这四个字。前一个问题需要系统理解“推销”和“销售”意思接近，后一个问题则希望原词命中时，标题能直接排到前面。这道题考的不是两个名词的定义，而是能否把“为什么要混合、怎样混合、怎样验证”连成一条完整答案。下面就按面试官的追问顺序拆开。如果…

#RAG#检索与重排#RAG 混合检索

手把手把 RAG 教程做成"你自己的"项目

匹配正文：…断个人结果。背景原始卡点 RAG 项目怎么改反馈结果可借鉴点 211 金融本硕跨专业有金融知识,但没有大模型项目做金融知识库问答和智能风控 Agent,把业务知识转成文档检索、规则解释和风险判断链路拿到蚂蚁金融大模型算法岗 offer 行业背景要落到文档、规则、问答和评估上,不要只写"懂金融" 985 控制本硕,原 Java 后端方向简单后端项目和目标岗位不匹配用金融业务场景重做 RAG 项目,补检索、引用、评估和服务化表达拿到金融行业相关双 offer …

#Deep Research#数据构造与训练#Deep Research 种子数据

RRF 和加权求和怎么选？两路检索分数为何不能直接相加？

匹配正文：… 至少区分：精确术语、编号和短查询；口语化、同义表达和长描述；否定、例外与限制条件；多约束或需要多份证据的问题；领域外、知识库中没有答案的问题。总体平均分会掩盖某类查询的退化，分层结果才能指导最终选择。指标同时看召回、排序、重复和成本 Recall@K 判断正确证据是否进入有限候选。MRR 关注第一条相关结果的位置。nDCG 适合评估多条不同相关度证据的整体排序。Precision@K 能观察头部候选中的相关比例。此外还应记录融合后重复率、每路贡献比例、候选数…

#RAG#检索与重排#RRF

面试题·Agent

Deep Research 训练的种子问题从哪里来，怎样避免一开始就把数据做偏？

匹配正文：…审核确认没有把答案写进问题。专家题承担的是补齐真实分布中能力缺口的任务，堆砌领域术语只会制造虚假的专业感。来源三：公开 QA、知识库与文档语料公开 QA 数据适合提供基础事实、实体和问题结构，但很多题一步即可回答，不能直接等同于 Deep Research 任务。知识库和文档语料可以反向生成问题，因为证据范围相对明确，便于验证答案是否可由材料推出。使用前要检查许可证、再分发限制、个人信息和内容时效。公开可访问不等于可以任意复制进训练集。从文档生成问题时，要防止“看…

#Agent#记忆与存储#Agent 长期记忆设计

Query 重写、扩写和 HyDE，应该在哪些查询上启用？

匹配正文：…而不是把一句话写得更漂亮。 Query 扩写追求的是“让不同表达都能被找到”。用户说“理赔”，文档可能写“索赔”；用户说口语词，知识库可能使用专业术语。扩写可以保留原问题，同时生成若干同义表达或子查询，各自检索后合并候选。 HyDE 追求的是“让检索代理更像文档”。短 Query 往往只有一个主题词，而知识库里的答案通常是一段陈述。HyDE 先让模型生成一段可能的答案，再把这段假设文档向量化，用来检索真正资料。它借用的是假设文本的语义形状，不是假设文本里的事实。三种 …

#RAG#检索与重排#RAG Query 重写

面试题·Agent

Agent 短任务和长任务怎么记？工作记忆、长期记忆与任务状态怎样分层

匹配正文：…更新用户偏好会变化，业务事实会过期。新信息应覆盖、并存或形成版本，不能只追加两个互相矛盾的句子。冲突处理实时业务系统、版本化知识库和历史记忆冲突时，按来源权威、时间和业务规则处理。无法解决就明确不确定，不让模型随意合并。遗忘按有效期、时间衰减、访问和价值删除或归档。遗忘不是能力退化，而是维持相关性、控制成本和落实隐私的重要机制。长期记忆可以按内容再分语义记忆稳定事实和概念，例如已经确认的用户偏好或领域知识。它适合结构化存储与语义检索，但必须有来源和时效。情景…

#RAG#检索与重排#Embedding 模型选型

Embedding 和 Rerank 模型怎么选？什么时候值得领域微调？

匹配正文：…分清：Embedding 和 Rerank 各自对什么结果负责 RAG 的检索链路可以先想成一场两阶段筛选。第一阶段面对的是整座知识库。系统把用户问题编码成向量，再从大量文档片段里快速找出一小批候选。Embedding 模型的任务不是直接判断最终答案，而是把可能包含答案的片段尽量送进候选集。它如果漏掉了正确证据，后面的模型再聪明也无从补救。第二阶段只看这批候选。Rerank 模型把问题和每个候选片段放在一起判断相关性，然后重新排列顺序。它更擅长处理“关键词很像，但并没有回…

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

匹配正文：…是否写进当前可检索索引。文档可能解析成功，却因为批量写入部分失败没有进入向量库。也可能新版本已经上传，检索仍然只看旧索引。权限、知识库和文档状态也可能让正确 Chunk 不在本次范围内。如果正确证据根本不存在于索引，调 BM25 权重、替换 Embedding、扩大 Top-K 都不会修好问题。检索器只能在已有语料中挑选，不能找回从未进入候选空间的内容。这一层应该保存文档身份、解析版本、切分版本、Chunk ID、索引版本和当前状态。当原文件更新后，还要确认正确证据…

#RAG#生成与对话#RAG 检索优化

大模型岗位 JD 怎么读:招聘要求逐条拆解

匹配正文：…词分辨。用错力气准备,是转行阶段最贵的浪费。岗位画像 JD 高频关键词实际在干什么谁对口、怎么准备 RAG 应用工程检索、知识库、向量库、召回、rerank、问答把企业文档接进大模型做问答/助手转行主战场,吃透 RAG 教程全链路选型 Agent 开发 Function Calling、工具编排、ReAct、工作流、MCP、多轮让模型自主调工具完成多步任务后端逻辑强的人对口,练 Agent 项目偏算法的应用算法 SFT、LoRA、数据配比、评估集、DPO、…

资料里没有答案时，RAG 怎么避免强行生成？

匹配正文：先看一个常见场景。知识库里只有国内差旅报销制度，用户却问：“海外出差时，当地交通票据丢失应该怎么补办？” 资料里没有海外票据补办规则，但向量库通常仍会返回几段“最相近”的内容，比如国内票据遗失说明、差旅报销材料清单，或者交通费用标准。这些内容都和问题有关，却没有真正回答问题。如果系统把它们直接交给大模型，大模型很可能把几段相近内容整理成一套完整流程。文字顺，步骤也像那么回事，但关键规定并不在资料里。这就是 RAG 面试中很容易被低估的一道题：资料里没有答案时，RAG…

#RAG#生成与对话#RAG 无答案检测

RAG 引用怎么做到可核验？为什么让模型自己标来源不够？

匹配正文：…靠补回来。模型可以猜一个页码，却不能把猜测变成证据。检索返回 Chunk 时，不应只有内容和相似度分数，还要一起带回文档 ID、知识库 ID 和原始位置。引用系统应该沿用这条已有的数据链，而不是让模型凭语言能力重新描述来源。可核验引用与普通文件名引用的区别文件名只能告诉用户大概来自哪里，可核验引用还要定位到当时用于回答的具体证据。所以，回答末尾写“来源：某某.pdf”最多完成了文档级提示，还没有完成陈述级归因。真正需要回答的是：这句话由哪一段原文支持，点击后看到的原…

#RAG#生成与对话#RAG 引用溯源

多轮 RAG 如何理解“这个怎么申请”？

匹配正文：…险，第三轮的“这个”可能指前面讨论的保障或理赔申请。但如果系统直接拿“这个怎么申请”去搜索，Query 里没有产品、事项和场景，知识库很难找到正确原文。把整段聊天历史原样塞给检索器也不稳。历史越长，无关主题越多，当前问题反而越容易被稀释。这就是多轮 RAG 的一道高频面试题：当前问题依赖历史时，怎样把它恢复成可以独立检索的问题？对话历史太长以后，窗口、摘要和长期记忆又该怎样分工？只回答“把历史放进 Prompt”远远不够。面试官还会继续问：怎么判断当前是追问，还是…

#RAG#生成与对话#多轮 RAG

大模型系统设计和编码环节怎么准备

匹配正文：大模型岗的系统设计不是让你背架构图,而是看你能不能把一个模糊需求(比如"做一个企业知识库问答")拆成可落地、可评估、可控成本的系统。常见考察重点是权衡:数据怎么切、检索怎么召回、效果怎么评、成本和延迟能不能扛、模型挂了怎么降级。编码形式和难度由公司与岗位决定,应以目标招聘流程和近期同岗信息校准。这一页给你系统设计的答题框架和编码环节的准备重点。作者:吴师兄 | 适合:准备大模型岗系统设计与编码环节的转行者 | 前置:知道 RAG/Agent 是什么,最好做过一个项目大模型…

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…题补完整”；本题继续往后追问，专门讨论历史如何写入、隔离、更新、过期和删除。两个问题会使用同一段对话，但验收目标不同。这里还要把知识库事实单独拿出来。企业制度、产品手册、合同条款属于可验证的静态知识，应由知识检索链路提供；“用户正在办理哪一步”“用户已经确认哪个选项”属于会话状态；“用户明确同意长期保存的语言偏好”才可能进入长期记忆。静态知识更新后，不能让一条旧对话记忆继续覆盖新制度。四类上下文不能混成一份聊天记录三层记忆分别解决什么问题短期窗口：保证当前任务连贯短…

#RAG#生成与对话#RAG 记忆模块

大模型岗的总监面、行为面、HR 面与谈薪怎么应对

匹配正文：…期承诺,也不迎合不存在的岗位路线为什么选我们做过功课,不是海投说得出这家团队的业务/方向/技术栈和你的匹配点(如"你们做企业知识库,正好是我 RAG 项目的场景")。别用"平台大、发展好"通用话 "为什么转大模型"是重中之重,常见,而且会顺着追问("那你觉得 RAG 和微调怎么选""你项目里最难的一步是什么")。所以动机不能是一句口号,而要是一条能用真实经历继续说明的线索:我有什么底子 → 遇到什么真实场景/问题 → 我动手做了什么 → 得到什么、还差什么。这条线越具体…