匹配正文：…就是再加一道关卡,用更强但更慢的模型,把这批候选重新排一次序,把最相关的几条顶到前面。概念 2:为什么粗排会排错? 第 5 章的向量检索和 BM25 都是独立打分的,只看 query 和单个 doc 各自的相似度/词面命中,读不懂 query 和 doc 之间的"关系"。于是一个字面很像、意思却相反的文档(比如"免责条款")可能拿到高分。粗排独立打分,读不懂 query 和 doc 的关系概念 3:什么是 Cross-Encoder? Cross-Encoder(交叉编…

#RAG#检索#项目实战

求职指南·求职

大模型应用开发要懂哪些概念、懂到什么程度

匹配正文：转大模型应用开发,不用把深度学习从头学一遍,真正要吃透的是一小批"每天做工程决策都会碰到"的概念:Token、上下文窗口、温度、Embedding、向量检索、RAG、Agent、评估指标这些。标准不是能背定义,而是能一句话讲清、还能说出它影响哪个工程取舍。这篇给你一张核心概念清单和"懂到什么程度"的可操作标准。作者:吴师兄 | 适合:准备转大模型应用开发、想知道概念地基要打到多深的人 | 前置:知道应用岗和算法岗的区别,不需要机器学习背景到底要懂哪些概念:一张清单表先给…

#求职#职业转型

面试题·RAG

RAG Chunk 为什么不能只按固定字数切？

匹配正文：…G 需要把长文档拆成可检索内容，因为整份文档通常不适合直接做一次检索，也不可能每次都完整塞给模型。但块并不是越小越好。块太小，向量主题会更集中，却容易把条件、解释和结论拆开。用户问“什么情况下可以申请”，系统可能只找回申请步骤，缺少适用对象和限制条件。块也不是越大越好。块太大，多个主题会被压进同一个向量。检索得到的是一段平均语义，真正相关的几句话被大量无关内容包围。随后进入模型的上下文更长，噪声也更多。所以一个可用 Chunk 同时满足两个目标。它要足够聚焦，让检…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#RAG#切分与索引#RAG Chunk

项目实战·RAG

第 7 章:Query 理解与改写

匹配正文：… + 改写都查、结果合并」，避免把用户本意改歪。 2.3 HYDE:先让模型"瞎答一个"再检索短查询(如"等待期")关键词太少,向量不够"丰满",检索容易飘。HYDE(Hypothetical Document Embeddings)的反直觉解法是: HYDE 流程先让 LLM 根据问题编一段"可能的答案"(假设文档),把这段假答案向量化,再用它去检索真实文档。因为这段假答案自带一堆相关术语和上下文,它的向量更接近真正答案文档的向量,召回更准。用向量空间的视角看,就很…

#RAG#检索#项目实战

求职指南·求职

转大模型应用开发,数学和深度学习理论要补多少

匹配正文：转大模型应用开发,要补的数学和深度学习理论其实很少:够用的是几个直觉——向量相似度、概率和期望、评估指标含义、梯度大致往哪个方向调。你不需要会手推反向传播、手推注意力公式或证明损失函数收敛。把原本准备啃理论的时间拿去做一个能讲透的项目,回报高得多。想走应用算法或训练侧的人另说,那条路数学门槛确实更高。作者:吴师兄 | 适合:担心"数学不好转不了 AI"的转行者,尤其研一/研二和工作约 3 年的 Java/后端 | 前置:能看懂中学数学和基本编程数学不好,到底能不能转大模型…

#求职#职业转型

系统教程·AI 编程

从零拼一个最小 RAG 问答

匹配正文：…捞出相关资料,塞进上下文,让模型"照着资料答"——把闭卷考试变成开卷考试。三步拆解用户问题 ↓ ① 检索:把问题和知识库都变成向量,找最相似的几段相关片段 ↓ ② 增强:把片段拼进 prompt("根据以下资料回答…") 拼好的 prompt ↓ ③ 生成:让 LLM 基于资料作答带依据的回答最小实现(可跑,不依赖向量库) 知识库使用几段演示文本，向量化与聊天分别连接支持相应能力的服务。不能因为一个服务兼容 Chat Completions，就假设它也提供 Open…

#Agent#AI 编程

面试题·RAG

Chunk Size 和 Overlap 怎么选？不要背 512 和 100

匹配正文：…？从工程链路看，RAG 可以拆为离线解析、在线召回、上下文生成和查询理解。切分位于离线阶段，但它会沿着整条链路向后影响：块太大，向量里同时包含多个主题，检索得分可能被噪声稀释；块太小，问题所需的前提、条件和结论可能落在不同块里；重叠太小，边界信息可能断开；重叠太大，多个近似块会挤进同一个 Top K。所以，这不是一个“字符串应该截多长”的问题，而是“证据怎样进入检索单元，并以多大代价被稳定找回”的问题。 Chunk 不是越大或越小越好参数同时影响语义完整性、检索区分度和…

#RAG#切分与索引#Chunk Size

项目实战·RAG

第 8 章:多轮对话与记忆管理

匹配正文：…取最近几轮。实现最简单、最稳,基于"最近的通常最相关"的假设。缺点:用户突然聊回很早的话题,窗口里就没那段了。语义相关:把历史也向量化,按当前问题检索出语义最相关的几条历史(哪怕在很久之前)。效果好,但要为历史建向量索引,还可能捞到"主题相似但语境不同"的旧内容。主题 + 重要度:标注出对话里的关键事实/决策点,在当前问题属于同一主题时才取用。最准,但要预处理标注。业内行话:三种策略可以组合,但不是默认答案。只有当同一评估集显示它们分别补足了时效、旧话题召回和关键事实保…

#RAG#检索#项目实战

项目实战·Agent

第 8 章:评估:调研类任务没标准答案,怎么定义「好」

匹配正文：…好?」你怎么回答? 如果是分类任务,简单:有标准答案,算个准确率就行。但调研型 Agent 面对的是**「中小规模 RAG 项目,向量库选 Milvus、Qdrant 还是 pgvector」这种开放问题,它产出的是一份几百字、带十几条引用的选型报告**。这份报告好不好? 没有唯一标准答案。两份结论相近的报告,可能一份引用扎实、一份在编数据;一份覆盖全面、一份漏了关键维度(比如只比性能,没提运维成本)。「跑通了」不等于「做得好」,流畅漂亮的报告可能恰恰在一本正经地胡说。更麻…

#Agent#Deep Research#项目实战

求职指南·求职

只会 Java,怎么快速上手 Python 和大模型工程栈

匹配正文：…hon 不是重新学一门语言,而是把你已有的工程思维换一套语法,真正要补的是几库几工具 (HTTP 客户端、数据校验、Web 框架、向量库、模型 SDK) 加上边做边学的习惯。一周就能上手写出能跑的服务,别系统啃语法书。你缺的从来不是 Python 关键字,而是有没有亲手调过一次大模型、拼过一条检索链路。作者:吴师兄 | 适合:只会 Java/后端、想动手写大模型应用的人 | 前置:有一门后端语言的工程经验从 Java 到 Python,到底要换掉哪些习惯结论先给:换掉的…

#求职#职业转型

面试题·RAG

跨页表格、代码块和图片怎么切，才不丢结构？

匹配正文：…data 则保存父表、页码、区域、单位和脚注关系。三者不能相互替代：增强文本便于检索，不代表它就是原文；原始表格可核验，不代表直接向量化后一定容易命中。跨页表格从识别到切分的处理顺序先恢复同一张逻辑表，再按完整行组拆分。切完的每一块都要带回表头、来源和父表关系。这里有一个常见误区：先把表格转成 Markdown，就认为结构问题已经解决。 Markdown 只是表达形式。跨页关系判断错了、合并单元格丢了、表头与数据错位，换成 Markdown 仍然是在更整齐地保存错误内容…

#RAG#切分与索引#RAG 表格切分

求职指南·求职

后端工程师转大模型应用开发:已有经验怎么迁移

匹配正文：…步处理请求推理服务吞吐设计、请求批处理(batching)、协程与队列文档解析与数据管道 ETL、消息队列、批处理、增量更新向量数据库选型与调优存储选型、索引优化(HNSW/IVF 换个名字的 B+ 树直觉) 缓存设计向量检索结果缓存、语义缓存、Prompt 命中复用推理延迟与成本优化性能调优、连接池、批量化、异步降级可观测性 / 线上质量监控评估指标埋点、离线评测集、线上 badcase 采样与回归 Agent 工作流编排状态机、任务调度、重试与幂等、D…

#求职#职业转型

面试题·Agent

Agent 有几十上百个工具时怎么选？大工具集路由怎样设计和验收

匹配正文：…可能会问：“Agent 只有三四个工具时可以把 Schema 全塞给模型，工具扩展到几十上百个以后怎么办？” 这道题不能只回答“用向量检索找 Top K”。工具一多，问题不仅是上下文变长，还包括名称和描述越来越相似、敏感能力不该暴露、工具版本与健康状态不断变化，以及候选召回错误会让后面的模型根本没有机会选对。大工具集路由更像一个分层检索与授权系统：先根据用户、租户和任务过滤绝对不能使用的能力，再从剩余工具中召回小候选集，结合描述、参数和上下文重排，最后才让模型选择或请求澄清…

#Agent#工具调用与安全#Agent 大工具集路由

项目实战·RAG

第 10 章:系统评估与上线优化

匹配正文：…值得做取决于重复查询比例、数据新鲜度和一致性要求: 上线优化:三层缓存 + ANN + 并发 + 流式三层缓存(按需选择):① Embedding 缓存(重复 query 不重算)② 检索结果缓存(热门问题复用文档列表)③ 答案缓存(适合答案稳定、可正确失效的 FAQ)。可用 Redis 等缓存实现并设置 TTL,同时验证命中率与陈旧风险。 ANN 索引(HNSW):减少需要精确比较的候选;召回与延迟收益受规模、硬件和参数影响,需与精确检索实测。异步并发 + 批量:让 E…

#RAG#检索#项目实战

面试题·模型架构· 海尔

位置编码为什么重要?

匹配正文：…入排列具有置换等变性，模型需要额外信号区分 token 顺序。常见方法包括： learned absolute position embedding：位置查表后与 token 表示相加，超过表长没有已学习向量； sinusoidal absolute encoding：按位置和频率计算 sin/cos，可在数学上生成更长位置，但模型未必学会训练长度外的行为； relative position bias/embedding：按 token 间距离或方向修改 attention…

#位置编码#Transformer#自注意力机制

求职指南·求职

大模型技术栈全景:RAG / Agent / 微调 / 推理 / 评估各是什么、面试考多少、怎么学

匹配正文：…G 基础题库 RAG 智能问答系统教程重排与检索优化 RAG 里"召回准不准"的关键环节,效果好坏经常卡在这重排与优化 70、向量检索 49 重排与优化题库重排章 Agent 智能体让模型能规划、调工具、多步完成任务,当前最热且和 RAG 衔接 Agent 154 Agent 题库 Deep Research Agent 教程 Prompt 与上下文怎么把任务、约束、上下文喂给模型,应用开发的高频入口 Prompt工程 77 Prompt 工程题库 AI 编程实操 …

#求职#职业转型

求职指南·求职

没有大模型项目经验,怎么攒出能写进简历的项目

匹配正文：…机器人」「给某垂直领域的 300 份 PDF 做问答,解决人工查条款慢的问题」有技术决策和权衡「用了 LangChain 和向量库」「按语义切块,因为固定长度切会切断条款;向量库选 X 是因为要本地部署」有量化结果「效果不错,能回答问题」「自建 50 题评估集,召回率从 62% 调到 81%,P95 延迟 1.4s」扛得住三层追问问「为什么不用别的方案」就答不上每个技术点预设「为什么→为什么不用别的→出问题怎么办」逐条说透: 真实业务问题是转行者的独特优…

#求职#职业转型

面试题·Agent

缓存能省调用，为什么 Deep Research 反而可能拿旧资料回答“最新”？

匹配正文：…敏感内容。对公共网页与私有资源可以使用不同缓存域，避免配置错误时跨边界复用。删除请求必须覆盖派生对象。原文被删除后，相关抽取、向量、计算和报告缓存也要有可追踪的清理关系。提高命中率不能成为放宽权限键的理由。一次跨租户命中就是安全问题，不是性能误差。页面更新后，历史报告怎么办？历史报告应保留它生成时使用的证据状态。不能因为当前页面内容变化，就让旧报告的引用在后台指向一段不同原文。报告需要记录访问时间、页面版本和证据片段定位。新页面可以触发一次重新验证。若结论受影响…

#Deep Research#研究工具与稳定性#Deep Research 缓存新鲜度

求职指南·求职

手把手把 RAG 教程做成"你自己的"项目

匹配正文：…是:装依赖、贴代码、喂几个文档、问一句、返回答案、截图。这条路径里你没有做过任何一个"取舍决定"——chunk 切多大是教程给的,embedding 用哪个是教程选的,好不好也没量过。于是你的项目在面试官眼里是一张白纸:问什么都只能答"教程里是这么写的"。而项目之所以值钱,恰恰在于那些教程不会替你做、必须你自己拍板并能解释的决定。把这些决定和它们的依据攒起来,就是下面说的证据链。【项目证据链·本篇核心】一个能写进简历的 RAG 项目必须产出的 8 项证据一句话:简历上每写…

#求职#职业转型

面试题·RAG

Rerank 为什么更准，却不能对整个知识库运行？

匹配正文：… 这时适合处理问题的是 Rerank，也就是重排。可另一个问题马上来了：既然 Rerank 能更细地比较问题与候选，为什么不跳过向量检索，直接让它给整个知识库打分？ Bi-Encoder 和 Cross-Encoder 差在哪里？ Embedding 模型通常采用双塔，也叫 Bi-Encoder。 Query 进入一侧编码器，文档进入另一侧编码器，最后比较两个向量的距离。文档向量可以在离线阶段提前算好，用户提问时只需要计算 Query 向量，再到索引中寻找近邻。这种方式适…

#RAG#检索与重排#RAG Rerank

求职指南·求职

大模型简历怎么写:项目怎么描述、怎么量化、怎么防追问

匹配正文：…目里的技术决策和数字是抄不走的,那才是你的证据。很多人把简历项目栏写成技能清单:"熟悉 RAG、Agent、Prompt 工程、向量数据库、LangChain"。这行字的问题不在于哪个词写错,而在于它没有任何一个可被追问的抓手——面试官无法从中判断你是搭过一个能跑的系统,还是看了两篇文章记住了这些词。真正立得住的写法,是把项目拆成下面三个维度,每一维都写到能被追着问下去的粒度。三维项目表达法:每个项目从三个维度写透(本篇核心) 一个大模型项目要"立得住",工程、业务、结果…

#求职#职业转型

面试题·Agent

Agent 短任务和长任务怎么记？工作记忆、长期记忆与任务状态怎样分层

匹配正文：面试官可能会问：“Agent 做一个十分钟任务和跨多天任务，记忆设计有什么不同？是不是把所有消息都存进向量库就行？” 这道题最容易把三个概念混在一起：上下文、任务状态和长期记忆。上下文是当前这次模型调用能看到的内容；任务状态记录同一次执行进行到哪里；长期记忆保存跨会话仍有价值的事实、偏好或经验。它们都让系统“记得”，但生命周期、存储方式、读取策略和安全边界不同。短任务通常重视当前目标、最近对话、计划和工具结果，重点是选择哪些信息进入有限上下文。长任务除了工作记忆，还要持久化…

#Agent#记忆与存储#Agent 长期记忆设计

面试题·Agent

Agent 长期记忆什么时候写入？从候选提取到更新、冲突和遗忘的完整生命周期

匹配正文：面试官可能会问：“用户随口说了一句偏好，Agent 要不要立刻记住？” 这不是一道“接个向量数据库就行”的题。真正困难的是决定什么值得跨会话保存，谁有权保存，旧信息怎样被更新，冲突时相信哪一条，以及用户要求忘记后怎样确保它不再被召回。如果 Agent 把每轮对话都写成长期记忆，临时要求、错误推断和敏感信息会不断积累。下一次检索虽然能找到“相似内容”，却可能把已经过期的偏好当成当前事实。反过来，如果系统什么都不写，跨会话体验又会从零开始。因此，回答应围绕一条可审计的记忆生命…

#Agent#记忆与存储#Agent 记忆写入机制

面试题·模型架构· 字节

RMSNorm vs LayerNorm：训练效率怎么比?

匹配正文：…对整体平移具有再中心化不变性，RMSNorm则会保留均值分量。逐维 gamma 还会改变各维尺度，因此不能说RMSNorm严格保持向量方向或与RoPE“天然正交”。主流模型选择 LLaMA使用Pre-Norm位置的RMSNorm。合理解释是：在保持模型质量的前提下减少归一化统计量并简化实现，而不是“RMSNorm在任何任务都更稳定”。工程选型应比较训练loss、梯度范数、溢出率、吞吐与最终质量。图解 RMSNorm vs LayerNorm：训练效率怎么比?图解

#LayerNorm#RMSNorm#归一化方法