搜索大模型内容

转大模型应用开发,数学和深度学习理论要补多少

匹配正文：…一天拆开看就清楚了: 日常工作需要的能力需要手推数学吗文档切块、清洗、构建索引数据处理、工程不需要调检索、调重排、调 Prompt 实验设计、观察、取舍不需要,懂相似度直觉即可构造评估集、跑评估、看指标读懂指标含义不需要推导,需要读得懂追 badcase、定位错误来源排查、归因、工程不需要封装模型服务、控成本和延迟后端工程不需要你会发现,决定应用岗做得好不好的,是"能不能把一个模糊问题拆成可评估的小实验""能不能从一堆 badcase 里找到…

Chunk Size 和 Overlap 怎么选？不要背 512 和 100

匹配正文：…入处理；相同的向量索引类型与搜索参数；相同的 BM25 配置和召回路数；相同的候选数量、重排模型和最终 Top K；相同的提示词与生成模型，如果要评估最终回答。唯一改变的是切分配置。若必须同时比较“按段落切”和“固定长度切”，应该把它明确当成另一个实验维度，而不是把算法和参数混在同一张结果表里。第四步：建立可重跑的配置矩阵参数值应优先根据当前语料的长度分布和证据跨度来确定，而不是直接复制文章里的数值。实验程序读取一组配置，为每组配置重新切分、建索引、运行同一批查…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#RAG#切分与索引#Chunk Size

项目实战·RAG

第 8 章:多轮对话与记忆管理

匹配正文：…跨次聊天的懂你"。小项目先把短期做好就够用了。概念 3:为什么对话历史不能"全塞给模型"? 最朴素的想法是:把所有历史都拼进 prompt 不就行了?不行:大模型一次能读的 token 有上限(第 1 章讲过),对话一长就塞不下;而且塞太多旧的、无关的,反而会干扰生成(还记得第 6 章的 Lost in the Middle 吗)。所以记忆模块的核心工作之一,就是有策略地"选"和"裁":留住该留的,压缩或丢掉没用的。 🛠️ 跟着做:30 行实现"带记忆 + 指代消解"的…

#RAG#检索#项目实战

只会 Java,怎么快速上手 Python 和大模型工程栈

匹配正文：…;faiss 快、chroma 简单、pgvector 复用 Postgres 笔记与实验 Jupyter 边写边看中间结果,调 prompt、看 embedding 时很顺手环境与包 uv / pip / venv uv 一个工具管虚拟环境 + 装包,速度最快可选编排 LangChain / LlamaIndex 现成的 RAG/Agent 抽象,但别过度依赖 (见下) 关于编排框架多说一句:LangChain、LlamaIndex 能省样板代码,但它们把控制流藏进了一…

#Deep Research#研究工具与稳定性#Deep Research 工具路由

Deep Research 有 Search、Visit、Scholar 和 Python，Agent 怎样选对工具？

匹配正文：…、无需论文的 Scholar、单位未对齐的 Python、同义重复查询、最新信息与缓存冲突、权限受限页面和不存在工具。在线或回放评估要看完整轨迹。最终答案对了，可能是模型绕过错误调用猜对；最终答案错了，也可能是来源确实不存在。需要把路由、工具执行和证据生成分层归因。工具注册表应该怎样治理？工具名、description、Schema、权限和版本都属于产品配置，不应散落在 Prompt 和业务代码里。注册表应记录工具所有者、适用场景、证据等级、超时、重试、缓存、敏感参数…

#Agent#工具调用与安全#Agent Tool Registry

Agent 工具怎么设计和注册？Tool Schema、Registry 与执行器如何解耦

匹配正文：…h_web、visit_page、query_order。不要让同一工具在不同地方出现多个别名，也不要频繁重命名。名称变化会影响 Prompt、评估集、日志查询和历史 Trace。清楚描述描述不是普通代码注释，而是模型选择工具的重要依据。至少说明工具做什么、什么时候用、输入和输出边界，以及什么情况不要用。例如“搜索信息”太宽泛；“搜索公开网页，返回标题、摘要与链接，只用于发现资料线索，不返回网页完整正文”更容易与 visit_page 区分。后者让模型知道先搜索找线索，…

项目实战·RAG

第 9 章:上下文问答与引用溯源

匹配正文：…觉很像真的。两道一起上,才稳。 2.3 引用溯源的两条路线怎么让答案带上出处?业内两条主流路线: 引用溯源的两条路线方法 1:Prompt 内生成,让 LLM 边答边标 [1] [2]。优点:一个 prompt 就能完成。缺点:模型可能漏标或标错编号,而且它编出来的内容也可能带一个看似合理的来源,挡不住幻觉。遗漏率必须在自己的评估集上测量。方法 2:后处理式归因,先让模型生成答案,再用算法逐句找出处:对答案里每句话,用 NLI(自然语言推理)模型验证"检索到的原文是否蕴…

#RAG#检索#项目实战

后端工程师转大模型应用开发:已有经验怎么迁移

匹配正文：…新向量数据库选型与调优存储选型、索引优化(HNSW/IVF 换个名字的 B+ 树直觉) 缓存设计向量检索结果缓存、语义缓存、Prompt 命中复用推理延迟与成本优化性能调优、连接池、批量化、异步降级可观测性 / 线上质量监控评估指标埋点、离线评测集、线上 badcase 采样与回归 Agent 工作流编排状态机、任务调度、重试与幂等、DAG 编排工具 / 函数调用集成接口设计、RPC、参数校验、错误处理这张表的用法不是让你自我安慰,而是面试和简历时的翻译…

做一个 Agent 项目怎么做:从最小 Agent 到 Deep Research

匹配正文：…收到商汤、联想等 AI 相关机会反馈原方向可以保留,但要用 Agent 项目证明应用落地能力 211 本硕,项目零散只有浅层 Prompt 调优,简历项目不成体系围绕 Coding Agent 做闭环:任务拆解、代码生成、执行、错误修复和评估获得两份阿里系 AI 相关机会 Agent 简历要突出闭环和可验证结果,不要堆框架名如果你的 Agent 项目只能回答"调用了哪些工具",还不够。继续往下补:失败了怎么办、什么时候停止、怎么记录 trace、怎么评估任务完成质量…

Rerank 为什么更准，却不能对整个知识库运行？

匹配正文：… Top-K 也不能只按模型上下文长度设置。保留太少，可能丢掉多段互补证据；保留太多，相邻重复、冲突版本和弱相关内容会一起进入 Prompt。最终要结合问题需要几段证据、Chunk 长度、冗余和生成预算决定。不同 Query 也未必需要相同候选量。精确编号、明确标题已经由关键词路线高置信命中时，可以减少复杂处理。表达模糊、需要多段证据或候选高度相似时，才可能需要更宽的候选和精排。这是一种按问题风险分配计算的思路，不是给每次请求固定堆满组件。 Rerank 模型应该怎么…

#RAG#检索与重排#RAG Rerank

#Deep Research#数据构造与训练#Deep Research 复杂问答

简单问答怎样升级成真正需要多步研究的问题，又不把题目编坏？

匹配正文：…求解器要尽量分开？同一个模型先生成问题，再看到自己预设答案做审核，容易维持原有假设。它可能认为某条关系成立，只因为那正是生成 Prompt 要求它构造的关系。可以让生成器只输出问题结构与候选证据，求解器在不读取预设答案的情况下重新研究，再由规则或审核器比较。模型可以不同，也可以使用同一模型的隔离上下文，但不能让求解阶段直接拿到生成理由和目标答案。关键题还需要人工核对原始证据。模型间一致仍可能来自共同知识偏差或相同搜索排序。审核记录要保留生成版本、求解轨迹、证据和分…

#Agent#工具调用与安全#MCP 和 Function Calling 区别

MCP 和 Function Calling 有什么区别？Agent 工具接入时两者怎样配合

匹配正文：…t 还要控制资源内容进入上下文的大小和可信度。MCP 能把资源传回来，不代表内容可以被当作系统指令，也不代表完整文件应该原样进入 Prompt。 Prompts 同样是可复用模板，不是不可被覆盖的安全策略。真正权限和执行边界仍在 Host 与 Server。 MCP Server 提供工具后，模型会自动用好吗不会。模型是否选对仍受工具名称、描述、候选数量、当前上下文和任务拆解影响。Server 只提供能力，Host 要决定暴露子集，必要时做工具路由。参数仍可能格式正确但业…

大模型简历怎么写:项目怎么描述、怎么量化、怎么防追问

匹配正文：…法,一个被划进"背名词",一个被当成"真做过"。坏描述(只堆名词) 好描述(场景+方案+量化+取舍) 熟悉 RAG、向量数据库、Prompt 工程为某领域 300+ 文档搭问答系统,分块用固定窗口试过效果差,改成按标题层级切,召回率提升明显(经验值) 使用 LangChain 实现智能问答检索到"相似但无关"段落导致答错,加了重排 + 查询改写,忠实度靠 80 题评估集验证,而非拿 LangChain 当卖点掌握 Agent 开发、多轮对话做多步研究 Agent,针…

Query 重写、扩写和 HyDE，应该在哪些查询上启用？

匹配正文：… Query 优化变成不可控的调用链。缓存也要按处理版本隔离。原 Query 相同，但历史不同，重写结果可能完全不同；同义词表、提示词或模型升级后，产物也会变化。缓存键至少要包含会影响结果的会话上下文摘要和处理版本，不能只用用户输入文本，否则上一段对话的实体可能被复用到另一段会话。什么时候应该直接向用户澄清？ Query 优化的目标不是让系统无论如何都搜出内容。有些问题缺少的信息无法从对话历史安全补全。例如用户说“这个能不能退”，上一轮同时出现了两个对象；或者用户只问…

#RAG#检索与重排#RAG Query 重写

#Deep Research#数据构造与训练#Deep Research 轨迹生成

Teacher 生成的 Agent 轨迹为什么不能直接拿去训练，怎样筛出高质量样本？

匹配正文：…的内在推理。答案层要把每个关键主张与证据 ID 对齐，并区分事实、计算、推断、建议和证据不足。治理层还要保存 Teacher、Prompt、工具、环境、规范化器和审核器版本，以及生成、重试、人工修改和发布记录。这些信息让一条轨迹不只是训练文本，也是可以复盘的数据资产。格式标准化时，可以把不同 Teacher 的原始记录转换为目标模型所需的对话与工具调用格式，但原始血缘不能丢。三阶段漏斗怎样筛轨迹？相关数据构造材料强调，轨迹采样后需要严格过滤，可以按三阶段漏斗理解。 …

#Agent#记忆与存储#Agent 长期记忆设计

Agent 短任务和长任务怎么记？工作记忆、长期记忆与任务状态怎样分层

匹配正文：…事实和可复用经验，走写入、检索、更新、冲突与遗忘生命周期。三层分开存储和授权，模型每次只拿当前决策需要的信息，不能把全部历史塞进 Prompt，也不能把任务日志不加筛选地写成永久用户记忆。这段回答的核心是：短期负责“当前怎么继续”，任务状态负责“这次做到哪里”，长期记忆负责“以后什么值得复用”。三层记忆解决三类问题生命周期不同的信息，不应该塞进同一个 Messages 列表或向量库。先把上下文和记忆分开模型 API 通常是无状态的。每次请求只看到应用传入的消息和工具…

要不要做微调 / Post-Train 项目,轻量版怎么做

匹配正文：对多数转应用开发岗的人,微调不是必做项。面试更常考的是"你知不知道什么时候该微调、和 RAG/Prompt 怎么取舍",而不是你手搓过多复杂的训练。真要做,做一个目标清晰、有评估、能说清收益的轻量 LoRA/SFT 就够了,不必一上来啃工业级 Post-Train。这一页帮你判断该不该碰微调,以及如果要做,轻量版的最小证据链长什么样。作者:吴师兄 | 适合:纠结要不要做微调项目、把 LoRA/SFT 写进简历的转行者 | 前置:知道 RAG/Agent 是什么,看过技术栈全…

#RAG#检索与重排#Embedding 模型选型

Embedding 和 Rerank 模型怎么选？什么时候值得领域微调？

匹配正文：…有可比性：换 Embedding 的同时改了 Chunk 大小、Top-K 和相似度阈值；换 Rerank 的同时又换了召回模型和提示词。最后指标变化了，却无法判断究竟是哪一步造成的。一套可复现的对比应先冻结其余链路。对 Embedding 候选，使用同一份原始文档、同一套解析和分块结果、同一批测试 Query、同一套正确证据标注，并保持索引类型和 Top-K 一致。对 Rerank 候选，则进一步冻结粗召回产生的候选集合，让每个模型对完全相同的 Query 与 Chunk…

#Agent#记忆与存储#Agent 记忆写入机制

Agent 长期记忆什么时候写入？从候选提取到更新、冲突和遗忘的完整生命周期

匹配正文：…的正式记录。后续新事实不能覆盖旧记录而不留痕，而应更新版本或建立替代关系。过期、撤回和用户删除要同时作用于主记录、向量索引与缓存。评估既要测该记住时能否写对，也要测不该记时能否保持不写。这段回答最重要的一句是：长期记忆是一项有生命周期的数据决策，不是对话结束后的自动副产物。 Agent 长期记忆写入生命周期从候选到正式记忆，每一步都有拒绝写入的出口。第一步不是保存，而是判断有没有候选一次对话里会出现很多信息，但只有少数值得跨会话使用。例如用户明确说“以后给我代码示例…

大模型岗位 JD 怎么读:招聘要求逐条拆解

匹配正文：…中间是它实际在考察什么,右边是对应怎么准备。 JD 原文实际在考察怎么准备「熟悉 LLM 应用开发链路」调过 API、懂 prompt、做过一个完整应用 AI 编程最小实现系列「熟悉大模型训练原理」应用岗只需懂大方向:预训练/SFT/RLHF 各解决什么,不用会训基础概念扫盲,会讲即可「有 RAG 系统实践经验」能讲清检索链路每个环节的选型与权衡 RAG 完整教程 + 题库 RAG 模块「有 Agent 落地经验」做过多步工具调用的东西,能说清编排与失败…

#Deep Research#数据构造与训练#Deep Research 工具选择

训练数据里 Search 太多，为什么 Agent 遇到什么都想先搜？

匹配正文：…面对“水的化学式是什么”，先调用 Search；面对简单乘法，也想搜网页；真正需要访问原文时，却停在搜索摘要。很多团队会先怀疑 Prompt 没写好，或者模型太小。但如果训练轨迹里大量任务都以 Search、Visit 开头，模型可能只是忠实模仿了高频动作。它没有学会判断“当前缺什么信息”，而是把“收到问题”与“先搜索”绑定在一起。相关首次训练记录里，就出现了简单问题仍偏 Search 的现象，材料同时指出 Search、Visit 轨迹偏多可能是原因之一。所以面试官…

#Deep Research#数据构造与训练#Deep Research 多阶段训练

Deep Research Agent 训练中，CPT、SFT 和 GRPO 应该怎样取舍？

匹配正文：…质量门。平均 reward 上升，但引用、工具成本或安全退化，只因总分权重把它们抵消。第四种是无法归因。同时更换数据、模型、Prompt、环境与 reward，最终不知道哪个改动有效。应采用小步版本、固定回归集和阶段报告。每次训练都能回答“改变了什么、为什么改变、是否可复现”。多阶段训练风险与验收矩阵阶段越多，越需要独立目标、版本血缘和跨阶段回归。同一条轨迹能不能在三个阶段重复使用？原始任务和证据可以复用，但训练表示与目标不能简单复制。 CPT 更关注大规模行…