搜索大模型内容

大模型应用开发要懂哪些概念、懂到什么程度

匹配正文：…怎么落地按这个顺序走,概念不会停在纸面上: 概念地基:先过/ai-coding 第 1 章 LLM/Token/Agent 到底是什么,把上表最上面几个基础概念一次性建立地图。马上动手:跟着亲手调一次 LLM API真调一次,温度、流式、token 计数这些概念动手一遍就懂了,比看十遍定义强。搭最小系统:跟RAG 智能问答系统把检索、重排、评估整条链路跑通,让 RAG / 向量 / 评估这些概念长在项目里。自测概念题:去RAG 基础题库和Prompt 工程题库刷题,凡…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#求职#职业转型

RAG Chunk 为什么不能只按固定字数切？

匹配正文：…候选。另一种做法是完全丢掉标题，只保留正文。子段落里如果大量使用“本规则”“上述情况”“该材料”之类表达，脱离标题后就不知道主题是什么。更稳妥的方式，是把标题路径作为结构字段保存。例如某段正文可以继承“申请流程、材料要求、特殊情形”这样的层级路径。检索返回时，系统既能展示正文，也能告诉用户它属于哪一节。是否把标题文字拼进用于 Embedding 的内容，则要通过评测决定。标题明确、正文依赖代词时，加入标题可能补充语义。标题高度重复、正文已经自包含时，反复拼接同一标题…

#RAG#切分与索引#RAG Chunk

项目实战·RAG

第 7 章:Query 理解与改写

匹配正文：…最朴素的样子;Part 2 讲它在真实系统里还会加上意图识别、HYDE、多轮指代消解。这一节你掌握了什么? ✅ Query 理解是什么、为什么要在检索前先做 ✅ 重写(求准)和扩写(求全)的区别,以及它们各自怎么救回检索 🎯 Part 2 · 面试深度｜ ~45% 这部分讲透意图识别的三条路线、重写/扩写的手段、HYDE,以及多轮里的指代消解。 2.1 意图识别:先搞清用户"想干啥" 同样一句话,意图不同,该走的检索/回答策略也不同(问"报销流程"该查制度文档,问"怎么…

#RAG#检索#项目实战

转大模型应用开发,数学和深度学习理论要补多少

匹配正文：…是可以先放下的。注意"该补到什么程度"这一列——应用岗要的是读得懂、说得清,不是推得出、证得明。主题用得上吗该补到什么程度向量与余弦相似度必须懂知道文本变成向量后,方向越接近越相似;能解释为什么用余弦而不是欧氏距离。不用手算高维点积概率与期望必须懂理解"模型输出是概率分布""采样温度是什么意思""期望大概是加权平均"的直觉。不用推贝叶斯公式评估指标含义必须懂精确率、召回率、Recall@k、MRR、忠实度(faithfulness)各自衡量什么、什么时…

系统教程·AI 编程

从零拼一个最小 RAG 问答

匹配正文：…加"没提到就说不知道",否则照样幻觉。 k 取太大:塞太多片段 → 噪声多 + 烧 token + 注意力稀释。每次都重算知识库向量:知识库向量离线算一次存好,在线只算问题向量。不做切分:整篇文档当一个片段,要么超长、要么粒度太粗,检索不准。关联面试题「RAG 的完整流程是什么?检索质量怎么优化?」「为什么需要混合检索?向量和 BM25 各自的短板是什么?」 👉 去题库搜 RAG / 混合检索 / 重排 / 切分。训练营延伸课程项目继续练习多格式入库、检索…

#Agent#AI 编程

Chunk Size 和 Overlap 怎么选？不要背 512 和 100

匹配正文：…是“第一，已完成身份核验”。如果 B 完全不带前文，单独召回 B 时语义会变弱。让 B 带上一小段 A 的尾部，可以恢复“这些条目是什么”的上下文。但 overlap 不是越大越保险。重叠越多，同一段文字会被多次向量化。查询命中边界区域时，Top K 里可能出现内容高度相似的 A、B、C，表面上召回了三条，实际上只有一份证据。它们还会一起进入重排和提示词，占用候选位、计算和上下文长度。因此，overlap 解决的是边界连续性，不应该拿它替代正确的结构切分。章节、表格、代码…

#RAG#切分与索引#Chunk Size

跨页表格、代码块和图片怎么切，才不丢结构？

匹配正文：…接关系。文字被提取出来，不等于结构还在。所以，特殊内容切分的第一步不是先问“每块放多少字”，而是先判断：这个内容最小的可解释单元是什么。跨页表格应该先合并，还是先切块？先恢复逻辑表格，再决定怎样切。如果解析阶段已经按页把表格拆开，第二页往往没有表头。此时直接入库，检索可能命中第二页某一行，却把一串没有列名的数值交给模型。判断上下两页是否属于同一张表，可以综合看几个信号：列数是否一致，列位置是否接近，表头是否延续，上页是否在页面底部结束，下页是否从页面顶部继续，以及表…

#RAG#切分与索引#RAG 表格切分

后端工程师转大模型应用开发:已有经验怎么迁移

匹配正文：…步处理请求推理服务吞吐设计、请求批处理(batching)、协程与队列文档解析与数据管道 ETL、消息队列、批处理、增量更新向量数据库选型与调优存储选型、索引优化(HNSW/IVF 换个名字的 B+ 树直觉) 缓存设计向量检索结果缓存、语义缓存、Prompt 命中复用推理延迟与成本优化性能调优、连接池、批量化、异步降级可观测性 / 线上质量监控评估指标埋点、离线评测集、线上 badcase 采样与回归 Agent 工作流编排状态机、任务调度、重试与幂等、D…

没有大模型项目经验,怎么攒出能写进简历的项目

匹配正文：…合:想转大模型岗但手里没有「像样项目」的在校生和后端工程师 | 前置:了解应用岗和算法岗的区别,大致知道 RAG / Agent 是什么没在公司做过 ≠ 没有项目经验先破这个心魔:面试官分辨项目真假,靠的从来不是「这是不是工作项目」,而是追问的深度。一个自建项目只要你答得上「为什么这么切块、召回率怎么测的、换个方案会怎样」,它就是真的;一个挂在简历上的「公司项目」,如果你只是接了个模块、说不清整体决策,一追问就露馅,它反而是假的。大量转行成功的候选人,简历上的核心项目就…

#Deep Research#研究工具与稳定性#Deep Research 缓存新鲜度

缓存能省调用，为什么 Deep Research 反而可能拿旧资料回答“最新”？

匹配正文：…敏感内容。对公共网页与私有资源可以使用不同缓存域，避免配置错误时跨边界复用。删除请求必须覆盖派生对象。原文被删除后，相关抽取、向量、计算和报告缓存也要有可追踪的清理关系。提高命中率不能成为放宽权限键的理由。一次跨租户命中就是安全问题，不是性能误差。页面更新后，历史报告怎么办？历史报告应保留它生成时使用的证据状态。不能因为当前页面内容变化，就让旧报告的引用在后台指向一段不同原文。报告需要记录访问时间、页面版本和证据片段定位。新页面可以触发一次重新验证。若结论受影响…

手把手把 RAG 教程做成"你自己的"项目

匹配正文：…不穿的个人项目。作者:吴师兄 | 适合:跑过 RAG demo 但简历写不出深度、面试被追问就卡住的人 | 前置:知道 RAG 是什么,愿意围绕一个场景做深为什么"跑通 demo"不算有项目结论先行:demo 证明的是"我能按教程复制",项目证明的是"我能独立解决一个问题",面试官要的是后者。跑通 demo 的过程是:装依赖、贴代码、喂几个文档、问一句、返回答案、截图。这条路径里你没有做过任何一个"取舍决定"——chunk 切多大是教程给的,embedding 用哪个…

#Agent#记忆与存储#Agent 记忆写入机制

Agent 长期记忆什么时候写入？从候选提取到更新、冲突和遗忘的完整生命周期

匹配正文：…会话可能同时读取旧版本并提交新偏好。关系存储可以用版本号或条件更新避免最后写入者无声覆盖。冲突任务进入明确的合并或确认流程。如果向量索引与主记录分开，主记录更新后需要生成新向量并让旧向量失效。检索结果回到主存储时再次检查版本和状态，不能直接信任索引中的旧文本。更新事件应该留 Trace：谁发起、基于什么来源、命中了哪条旧记忆、裁决规则是什么、索引是否同步。这样线上出现错误召回时，才知道是提取错、冲突裁决错，还是索引延迟。记忆为什么必须会过期不是所有信息都需要用户主动删…

面试题·模型架构· 字节

RMSNorm vs LayerNorm：训练效率怎么比?

匹配正文：…对整体平移具有再中心化不变性，RMSNorm则会保留均值分量。逐维 gamma 还会改变各维尺度，因此不能说RMSNorm严格保持向量方向或与RoPE“天然正交”。主流模型选择 LLaMA使用Pre-Norm位置的RMSNorm。合理解释是：在保持模型质量的前提下减少归一化统计量并简化实现，而不是“RMSNorm在任何任务都更稳定”。工程选型应比较训练loss、梯度范数、溢出率、吞吐与最终质量。图解 RMSNorm vs LayerNorm：训练效率怎么比?图解

#LayerNorm#RMSNorm#归一化方法

RAG 检索效果差怎么排查？从 Query 到 Rerank 逐层定位

匹配正文：RAG 回答错了，最常见的第一反应是什么？改 Prompt，换大模型，或者把 Top-K 调大。这三个动作都可能有用，但它们不应该成为排查起点。因为最终答案只是链路最后一层。错误可能早在文档解析时就发生，也可能是 Query 被改写带偏、过滤条件挡掉了正确文档、向量召回没找到、融合时被压下去，或者 Rerank 把正确证据排到了后面。如果连正确证据在哪一层消失都不知道，改参数更像碰运气。排查前，为什么先要有“正确证据”？如果只知道“答案错了”，排查没有参照物。系…

#RAG#生成与对话#RAG 检索优化

#Agent#记忆与存储#Agent 记忆检索排序

Agent 从海量记忆里怎么找对内容？相关性、时间性和重要性怎样组合

匹配正文：…与重排流程先排除不能用的记忆，再在可用候选里判断哪条更值得进入上下文。第一步：先理解当前任务要找什么用户输入不一定能直接作为向量查询。 “继续做昨天那个方案”包含指代，需要先从当前会话确定“那个方案”可能对应的项目和任务阶段。“还是按以前的风格写”需要检索表达偏好，而不是搜索所有历史文章。“上次为什么失败”更需要事件与失败记录，不是用户画像。检索器可以从当前 State 提取几个结构化字段：主体是谁、任务或项目是什么、需要的记忆类型、时间范围、实体与关键词、当前目标、…

大模型岗位 JD 怎么读:招聘要求逐条拆解

匹配正文：…有它照样过忽略,别被吓退用法:对着一份具体 JD,把每条要求丢进这张表翻译一遍,你会发现十几条里真正卡人的没几条,大多是「知道是什么、能聊两句」就够的软性项。同名不同岗:三种「大模型工程师」怎么分辨同样叫「大模型工程师」,内核可能是完全不同的三种岗,准备方向也不同,投前一定先从关键词分辨。用错力气准备,是转行阶段最贵的浪费。岗位画像 JD 高频关键词实际在干什么谁对口、怎么准备 RAG 应用工程检索、知识库、向量库、召回、rerank、问答把企业文档接进大模…

项目深挖:面试官会怎么一层层追问你的项目

匹配正文：…在哪。追问点面试官想验证什么你该怎么答(带证据) 站内哪里补业务问题你是不是为真问题做的,还是为做而做说清给谁用、痛点是什么、为什么不用纯大模型或微调为什么需要 RAG 文档处理你有没有碰过真实脏数据讲你的文档格式(PDF/表格/扫描件)、清洗和解析踩的坑文档预处理与切分 chunk 策略你的切分是拍脑袋还是有依据切多大、按什么切、试过别的没有、对召回的影响文档预处理与切分检索召回你懂不懂检索的取舍向量/关键词/混合怎么选,召回率怎么测、多少条…

领域八股速通:RAG / Agent / 评估 / 微调高频考点地图

匹配正文：…多密。 RAG 基础(62 题):验证你懂不懂检索链路的取舍 RAG 是应用岗第一主战场,面试官不是要你背定义,而是看你对"分块、embedding、检索、拼 prompt"这条链路的每一环有没有做过取舍。维度内容面试官在验证什么你是否理解 RAG 每一环为什么这么设计、召回和忠实度怎么保证,而不是只会调库先看哪个 RAG 教程:为什么需要 → 架构 → 分块 → 检索一路做完代表题型 "为什么用 RAG 不直接微调""分块粒度怎么定""检索到无关内容怎么办""怎…

大模型系统设计和编码环节怎么准备

匹配正文：…题框架和编码环节的准备重点。作者:吴师兄 | 适合:准备大模型岗系统设计与编码环节的转行者 | 前置:知道 RAG/Agent 是什么,最好做过一个项目大模型系统设计到底考什么先给结论:考的是"把模糊需求拆成能落地、能评估、能控成本的系统"的能力,不是让你把组件画满一张图。大模型系统设计题和传统后端系统设计的最大不同,在于多了三条你必须主动说清的链路:检索/召回怎么设计、效果怎么评估、成本和延迟怎么控。传统后端设计里"高可用、可扩展"你已经熟,但一个 RAG 系统里"…

对话历史太长怎么办？滑动窗口、摘要和长期记忆怎么分工？

匹配正文：…个用户即使碰巧使用相同会话字符串，也不应进入同一份记忆。缓存键也要包含完整作用域。如果缓存只按 Query 文本命中，“报销标准是什么”可能把 A 用户或 A 企业的历史上下文返回给 B 用户。向量索引采用共享集合时，需要可靠的元数据过滤；采用分区或独立集合时，也要考虑创建、迁移和删除成本。无论哪种方案，都必须有负向测试证明越界请求得不到内容。敏感信息还需要更严格的写入策略。不是所有姓名、联系方式、健康或财务信息都应该进入长期记忆。能不存就不存，必须存时再考虑加密、访问控…

#RAG#生成与对话#RAG 记忆模块

#Agent#工具调用与安全#Text2SQL Schema 选择

Text2SQL 面对上百张表，怎样选对 Schema 并处理业务歧义

匹配正文：…有效时间语义。指标还需要单独的语义定义。例如“支付金额”对应哪个事实字段，是否扣除退款，按支付成功时间还是订单完成时间，统计粒度是什么。把这些口径只写在 Prompt 里很难维护，应该放在可版本化的指标或业务术语层。示例值能帮助实体映射。用户说“华东”，数据库可能保存地区编码；用户说某个产品简称，维表里可能是标准名称。示例值只能提供候选，不能把敏感列的真实数据大规模暴露给模型。元数据要记录来源和版本。表结构变化、口径更新后，旧说明不能继续参与生成。没有版本的 Schem…