搜索大模型内容

#Agent#工具调用与安全#Function Calling 完整流程

Function Calling 到底怎么跑？模型不会执行函数，完整工具结果循环怎么实现

匹配正文：…一个会访问数据库、会执行 Python、会请求外部 API 的黑盒。实际上，模型通常只能看到工具说明，然后输出一个结构化调用请求。解析参数、鉴权、执行函数、处理异常和回传结果，全部由宿主程序负责。模型下一轮能否基于真实结果回答，还取决于程序是否把工具请求和工具结果按协议加入上下文。更准确地说，Function Calling 是模型与程序之间的一份结构化协作协议，并没有赋予模型直接执行函数的能力。把协议中的角色和状态讲清，才能从一次天气查询 Demo 继续讲到可控 Agen…

项目实战·RAG

第 8 章:多轮对话与记忆管理

…不带记忆,直接拿原话检索 === 轮2 用户:那它过了还能退吗? 助手:【没接住】问题里没有明确的产品,检索失败 <- '它'无法解析,检索失败 🐛 跑不通看这里轮2 补全后还是"没接住"?检查 KB 的键有没有改:demo 靠"产品 + 关键词"双命中,改了键就匹配不上。 resolve 没把"它"换掉?确认轮1 的问题里出现了 PRODUCTS 列表中的某个产品(如"重疾险"),否则 last_entity 找不到实体可替换。 AttributeError?确认 Co…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

按学习路线查看教程、项目和面试题。

站内 RAG 在线实战

匹配正文：

#RAG#检索#项目实战

项目实战·Agent

第 8 章:评估:调研类任务没标准答案,怎么定义「好」

匹配正文：…让它逐主张指出证据;对可规则验证的 URL、权限、工具参数和数值,优先使用确定性检查。Judge 型号、提示、温度、采样次数与输出解析都要版本化。在代表性人工校准集上报告总体和分层的一致率/混淆矩阵,并测重复运行方差。Judge 得分不能自动称为准确率或真值;高风险门槛若未达到人工一致性要求,应保留人工或确定性验证。 2.3 偏差缓解不等于消除偏差位置、冗长度、风格与自我偏好需要对照实验研究观察到位置、verbosity/style 和 self-enhancement…

#Agent#Deep Research#项目实战

只会 Java,怎么快速上手 Python 和大模型工程栈

匹配正文：…型者性价比最高的路径。后端的并发经验在大模型栈里还有用吗? 非常有用,而且是加分项。远程模型调用常有 I/O 等待,但本地推理、解析和预处理也可能受 CPU/GPU 限制。线程池、限流和批处理经验有帮助,同时要重新验证 asyncio 的取消、超时、阻塞依赖和任务生命周期,不能只做语法替换。只会 Python 基础语法,没写过服务,够转型吗? 对在校生这是最典型的短板。会跑 Notebook 脚本不等于会做应用,缺的是服务化、部署、日志、异步这套工程化能力。把一个 dem…

跨页表格、代码块和图片怎么切，才不丢结构？

匹配正文：…函数切，图片先做 OCR。” 这句话只讲了入口。面试官接下来通常会问：表格太长怎么办，跨页表头怎么继承，PDF 里的代码无法做语法解析怎么办，图片描述如果编错了又怎么核验？为什么普通文本能切，特殊内容却容易切坏？普通段落的主要语义通常来自句子顺序。只要尽量在句号、段落和标题边界切分，单个 Chunk 往往还能独立阅读。表格不同。一行里的值要结合表头才能解释，一张表还可能依赖表题、单位、合并单元格和前后注释。把文字按阅读顺序摊平之后，“华东、二级、三天”看起来都是词，却无…

#RAG#切分与索引#RAG 表格切分

#Agent#工具调用与安全#Agent Tool Registry

Agent 工具怎么设计和注册？Tool Schema、Registry 与执行器如何解耦

匹配正文：…版本，避免执行到一半工具定义突然变化。无论使用哪种方式，注册阶段都应完成静态校验：名称唯一、描述非空、输入输出 Schema 可解析、执行器存在、策略引用有效、高风险工具声明审批要求。把错误挡在启动或发布阶段，比等模型调用时才发现可靠得多。工具从开发到可调用的注册流程工具上线不只是把函数写完，还要经过契约校验、权限配置、灰度和回归。运行时不要把整个 Registry 原样发给模型注册表是系统的完整能力清单，模型看到的应该是当前请求允许使用的子集。过滤至少考虑用户身份…

项目实战·RAG

第 9 章:上下文问答与引用溯源

匹配正文：…作答 + 没依据拒答"跑出来。 3 个核心概念(先白话,再术语) 概念 1:什么是"上下文问答"? 前 8 章都在为这一步做准备:解析、切分、检索、重排,最后捞回来一小撮最相关的片段。上下文问答(也叫"知识增强回答")就是这最后一环:LLM 拿着这些片段当"参考资料",生成对用户问题的回答。关键词是**"基于上下文"**:系统应要求模型依据检索到的资料回答,并把关键结论映射回证据。Prompt 约束能降低无依据扩写,但不能保证模型完全不使用参数记忆或不误引,仍需评估和校验。…

#RAG#检索#项目实战

后端工程师转大模型应用开发:已有经验怎么迁移

匹配正文：…服务化、限流熔断、健康检查、灰度发布高并发 / 异步处理请求推理服务吞吐设计、请求批处理(batching)、协程与队列文档解析与数据管道 ETL、消息队列、批处理、增量更新向量数据库选型与调优存储与索引选型经验可迁移,但 HNSW 是图索引、IVF 是倒排文件分区,不能直接套用 B+ 树机制缓存设计向量检索结果缓存、语义缓存、Prompt 命中复用推理延迟与成本优化性能调优、连接池、批量化、异步降级可观测性 / 线上质量监控评估指标埋点、离线评测集、线…

Chunk 为什么要带标题、页码和前后片段 ID？

匹配正文：…ta 的价值，可以归纳成六类动作：过滤、排序、去重、扩展、展示和审计。如果某个字段不服务任何动作，也没有明确的消费者，它只会增加解析、入库和更新时的同步成本。字段应该怎样从业务动作反推？第一类是身份字段。 chunk_id 用来稳定定位当前片段，doc_id 标明所属文档，kb_id 标明所属知识库。多租户场景还需要租户或权限边界。它们让系统知道一段内容属于谁，也支持检索前限定范围。第二类是结构字段。章节路径、标题层级、内容类型、父内容 ID、前后片段 ID，描述当…

#RAG#切分与索引#RAG Metadata

#Deep Research#研究工具与稳定性#Function Calling 参数校验

Function Calling 有了 JSON Schema，为什么工具参数还是会错？

匹配正文：Function Calling 让模型不再输出一段难以解析的“Action 文本”，而是返回工具名和结构化参数。这确实解决了很多格式问题。但结构化不等于正确。模型可以输出合法 JSON，却把 top_k 设得过大；可以满足字符串类型，却把关键词填进 URL 字段；可以选中正确工具，却漏掉当前页面 ID；也可以生成业务上不允许的参数组合。更危险的是，程序若看到 Schema 校验通过就直接执行，越权访问、重复写入、资源消耗和错误证据都会进入真实系统。所以面试官问“怎…

项目实战·RAG

第 10 章:系统评估与上线优化

匹配正文：…作为特定任务的重合指标;RAGAS 等 LLM/模型评分是代理信号,需用人工样本校准。排障顺序:低 Recall 可能来自标注、解析、切分、索引、过滤或查询;高 Recall 也不保证证据充分、顺序合理、权限正确或最终回答可靠。分段指标用于缩小范围,再结合失败样本与链路追踪定位根因。 2.4 别全从零造:可复用基准与自动评估可复用的基准与自动评估框架公开基准:HotpotQA(多跳问答,带"支持事实"标注,测跨文档检索 + 推理)、TriviaQA / NQ(开放域问答…

#RAG#检索#项目实战

大模型技术栈全景:RAG / Agent / 微调 / 推理 / 评估各是什么、面试考多少、怎么学

匹配正文：…题库、工具与函数调用章、记忆管理章开发/Java 后端线的主场 Data / Eval 层决定"效果好不好"能不能被证明文档解析、Embedding、Rerank、评估集、LLM-as-Judge、badcase 闭环评估与监控题库、文档处理、评估章两条线都绕不开,算法线更深 Training / Post-Train 层用数据改模型本身的行为 SFT、LoRA、DPO/GRPO、工具调用轨迹数据模型微调题库、RLHF与对齐、训练章算法/研究生线选修,应用线按…

RAG 知识库如何动态更新？重复上传怎么做到不重复、不漏写？

匹配正文：先看两个教学场景。第一个场景，管理员把同一份制度文档连续上传了两次。系统也老老实实解析两次、切分两次、计算两次 Embedding，最后往向量库写进两套几乎完全相同的 Chunk。用户提问时，前几条候选看起来都相关，实际上只是同一段内容重复出现。真正能补充答案的其他证据，反而被挤到后面。第二个场景，管理员只改了文档中的一个段落。系统为了避免重复，看到文件名相同就直接跳过，结果新版内容根本没有入库。这两个问题方向相反。第一个是重复写，第二个是漏更新。只说一句“加个去重…

#RAG#切分与索引#RAG 增量入库

#Deep Research#研究工具与稳定性#Deep Research 工具故障恢复

Search 超时、Visit 受限、Python 报错时，Deep Research 怎样继续而不乱答？

匹配正文：…使用。已返回内容可以进入候选证据，但与完整结果分级管理。后续动作针对缺失部分补偿。例如 Visit 缺表格时，可以换支持该格式的解析器，不必重新访问已经抽取的正文。若缺失部分正是用户问题核心，则不能用现有片段直接结束。部分返回还要有稳定调用 ID。重试补齐后，新结果与旧结果合并，而不是当作两个独立来源。 Search 失败后可以怎样降级？先判断是服务失败，还是查询本身没有结果。服务超时或限流时，可以排队、降低并发、使用经过授权的备用搜索源，或者暂时返回已有证据。查询…

#Agent#工具调用与安全#Agent 工具成功判断

Agent 工具返回成功就算完成了吗？调用、执行、业务成功要分三层判断

匹配正文：…“工具返回空为什么不该无限重试”。先给出 30 秒回答 Agent 工具成功至少分三层。第一层是调用成功：tool call 能解析，工具存在，参数通过基础校验，结果按调用 ID 回传；第二层是执行成功：真实服务完成操作，返回结构符合契约，没有超时、权限或下游错误；第三层是业务成功：工具结果确实满足当前子目标，并推动用户任务达到可验收状态。HTTP 200 或函数不抛异常最多只能证明前两层的一部分，不能证明业务完成。工程上我会为三层分别记录状态和错误类型，让 Agent 根…

没有大模型项目经验,怎么攒出能写进简历的项目

匹配正文：…基线数字。没有评估的项目在面试里是空心的——你说不出「好在哪、差在哪」。留 badcase:把跑挂的例子留着。长文档被截断、表格解析失败、检索到「相似但无关」的段落……每一个 badcase 都是一段现成的面试素材,还证明你真的调试过。能讲取舍:做完一次「测基线→定位最差环节→改进→再测」的迭代。面试里讲「我把召回率从 62% 提到 81% 的过程」,是最有说服力的叙事,因为它天然包含了决策、结果和踩坑。一句话:升级的核心不是「让它更完善」,而是「让它长出你自己的决策和…

#Deep Research#研究工具与稳定性#Deep Research 缓存新鲜度

缓存能省调用，为什么 Deep Research 反而可能拿旧资料回答“最新”？

匹配正文：…ep Research 会反复搜索相似关键词，也会多次访问同一页面。不做缓存，同一份搜索结果和网页正文会不断消耗外部接口、时间与解析资源。做了缓存，另一个问题马上出现：用户问“刚发布”“当前版本”“今天有什么变化”，系统却拿昨天或更早的结果回答。缓存本身没有错。真正的问题是，系统把“以前可用”误当成“现在仍适合当前问题”。搜索结果、网页正文、抽取片段、计算结果和最终报告的新鲜度要求不同。一个固定 TTL 无法覆盖所有任务。权限、页面版本、查询参数和证据用途如果没有进入缓…

Rerank 为什么更准，却不能对整个知识库运行？

匹配正文：…看不到它。无论模型多大、打分多细，都不能把不存在的候选重新创造出来。所以排查时必须先问：正确证据在不在 Top-N？不在，先查解析、切分、过滤、Query、Embedding 和召回策略。已经在，但排得太后，再查 Rerank 是否能把它提上来。 Top-N 和 Top-K 应该怎样定？ Top-N 是交给 Rerank 的候选数量，Top-K 是最终保留给模型的证据数量。 Top-N 太小，粗召回稍有排序误差，正确证据就可能被挡在门外。Rerank 再准也没有处理机会…

#RAG#检索与重排#RAG Rerank

#Agent#工具调用与安全#MCP 和 Function Calling 区别

MCP 和 Function Calling 有什么区别？Agent 工具接入时两者怎样配合

匹配正文：…模型选择是否调用，并返回结构化工具名、参数和调用 ID。这一步完成的是意图表达。模型没有执行数据库查询，也没有访问文件。宿主程序解析 tool call，进行参数、业务和权限校验，再找到真实执行器。结果以 tool message 回传，模型下一轮继续决策或生成答案。 Function Calling 的优势是结构化。相比让模型输出 Action: search(...) 再用正则解析，工具名和参数更容易校验，多个调用也可以通过 ID 关联。但它没有规定你的真实工具要怎样…

大模型简历怎么写:项目怎么描述、怎么量化、怎么防追问

匹配正文：…AG 智能问答系统示例 Deep Research Agent 示例工程维度架构/状态/工具/权限/监控/成本写明实际使用的解析、检索、可选重排与失败处理,并区分教程起点和个人修改写明实际 loop、工具、服务端授权、终止与脱敏 trace;没有长期记忆就不写业务维度场景/用户/数据源/约束/边界标明自建项目的目标用户、许可数据和错误后果,不要虚构企业内部场景标明任务边界、工具数据来源和高影响动作限制,不要声称未发生的业务使用结果维度评估集/通过率/召回/…

#Deep Research#数据构造与训练#Deep Research 轨迹生成

Teacher 生成的 Agent 轨迹为什么不能直接拿去训练，怎样筛出高质量样本？

匹配正文：…原始血缘不能丢。三阶段漏斗怎样筛轨迹？相关数据构造材料强调，轨迹采样后需要严格过滤，可以按三阶段漏斗理解。第一层解决“能不能解析”，第二层解决“过程是否真的在完成任务”，第三层解决“结论是否正确且有证据”。顺序很重要。格式都不合法的样本没必要先做昂贵事实审核；格式合法也绝不代表过程和答案合格。 Teacher 轨迹三阶段质量漏斗结构、行为、答案逐层过滤，任何一层失败都不能靠后一层的高分抵消。第一阶段：结构与角色是否合法？先检查样本能否被目标训练框架稳定解析。工…

#RAG#检索与重排#Embedding 模型选型

Embedding 和 Rerank 模型怎么选？什么时候值得领域微调？

匹配正文：…变化了，却无法判断究竟是哪一步造成的。一套可复现的对比应先冻结其余链路。对 Embedding 候选，使用同一份原始文档、同一套解析和分块结果、同一批测试 Query、同一套正确证据标注，并保持索引类型和 Top-K 一致。对 Rerank 候选，则进一步冻结粗召回产生的候选集合，让每个模型对完全相同的 Query 与 Chunk 对打分。测试集不能只准备“答案原句就出现在文档里”的简单问题。至少要覆盖：用户口语与文档正式术语不同；中文和英文缩写混合；两个流程名称或…