匹配正文：… 不一定要做深度训练，但要会判断边界：Prompt / RAG 解决不了风格、格式、领域行为或工具轨迹问题时，才考虑 SFT / LoRA / DPO，并且必须能评估收益。 LoRA 面试最常被问哪些点？常问参数高效的原理、rank 怎么选、和全量微调的差异、数据质量、过拟合、合并权重、推理部署，以及为什么这件事值得微调。 DPO 和 RLHF 怎么讲得清楚？ RLHF 是奖励模型 + 强化学习的经典链路，DPO 直接用偏好对优化策略，工程上更简单。面试里要结合数据、稳定性…

#专题学习#大模型微调与训练面试题大全

面试题·模型架构· 美团

MoE 怎么提升 Agent 能力?

匹配正文：…组件，也更容易做可观测、回退和人工审核。不能跨越的边界新工具接入通常需要schema、权限、数据和评测，不能概括成“给新专家做LoRA即可即插即用”。共享基座与不同专家不自动形成租户隐私隔离；隐私依赖访问控制、数据平面隔离、日志与部署边界。内部MoE路由和Agent的计划/工具选择可以组合，但优化目标、时间尺度和失败处理不同。选型时分别测内部MoE的质量、激活FLOPs、通信与延迟，以及编排层的路由准确率、工具成功率、回退率和安全隔离。图解 MoE 怎么提升 Ag…

#MoE#Agent#动态路由

求职指南·求职

大模型应用开发岗和算法岗有什么区别、普通工程师怎么选

匹配正文：…乱调、循环失控、成本爆炸 ReAct、状态机、工具 schema、终止条件领域客服助手语气和流程不稳定,模板约束不够 SFT/LoRA 的适用边界、数据构造高并发推理服务延迟高、显存吃紧、成本不可控 KV Cache、批处理、vLLM/SGLang 基本概念结果质量评估只能靠肉眼看,无法迭代 LLM-as-Judge、离线评估、错误分类也就是说,正确路线不是“应用岗不用懂算法”,而是“先用应用场景建立问题感,再补和场景有关的模型知识”。你会在真实问题里知道为什么…

#求职#职业转型

求职指南·求职

后端工程师转大模型应用开发:已有经验怎么迁移

匹配正文：…别套同一份计划。维度在校后端方向(研一/研二、应届) 工作约 3 年的 Java/后端你的优势学得快、时间整块、能沉下去啃原理有真实生产经验、系统设计有实战、抗压强你的短板项目薄、没生产经验、容易停在 demo 存量经验没「翻译」过、脱产成本高、时间碎核心动作补一个从数据到评估完整的大模型项目,把链路吃透把已有系统经验翻译成大模型语言,再补一个能讲透的项目时间节奏可脱产集中 6-10 周打透概念 + 项目每天 1-2 小时 + 周末,3-4 个月边工…

#求职#职业转型

求职指南·求职

大模型岗面试流程全解:每一轮考什么、怎么准备

匹配正文：…)、评估指标。 Agent 方向:工具调用与规划(Function Calling、ReAct、失败恢复、多步编排)。微调方向:LoRA/QLoRA 原理、数据构造、灾难性遗忘。推理方向:KV Cache、量化、批处理与吞吐优化。这些在领域八股速通里按模块整理好了,题库入口在 /questions,每道题有书面答案和口语版讲法。练的重点是「能顺畅讲出来」,不是「看懂点头」——面试是口试,看懂和讲清楚之间差一个数量级。技术二面:系统设计 + 边界试探结论:二面从「你做…

#求职#职业转型

求职指南·求职

大模型岗位 JD 怎么读:招聘要求逐条拆解

匹配正文：…G 链路、Agent 编排、评估闭环,读 JD 时重点圈出这些词,确认自己每一个都有对应的项目证据能讲。社招 JD 的「训练/微调原理」同样是加分项,别因为不会训模型就放弃一个本质是「用大模型改造后端系统」的岗。后端如何翻译经验、对齐关键词,见后端转型指南。一个具体反例:被「熟悉微调原理」吓退最常见也最亏的操作:看到 JD 写「熟悉大模型训练/微调原理」,心想自己没训过模型、连 LoRA 都没跑过,直接划走不投。这为什么错?因为对绝大多数应用开发岗来说,这一条是加分项…

#求职#职业转型

求职指南·求职

领域八股速通:RAG / Agent / 评估 / 微调高频考点地图

匹配正文：… 微调题量不大、门槛偏高,偏算法/研究生侧选修。面试官考它主要看两点:你分不分得清"该 RAG 还是该微调",以及懂不懂 SFT/LoRA/DPO 的基本取舍,而不是要你现场推公式。维度内容面试官在验证什么你能否判断微调 vs RAG 的适用边界、理解 SFT/LoRA/DPO 各解决什么、数据怎么准备先看哪个模型微调题库系统过一遍(应用线以理解为主) 代表题型 "什么时候微调什么时候 RAG""LoRA 原理和好处""SFT 和 DPO 区别""微调数据怎么造…

#求职#职业转型

求职指南·求职

转行大模型应用开发常见问题(FAQ)

匹配正文：…吗? 对应用开发岗不是。日常工作和面试考的是工程判断:什么时候用 RAG、怎么评估效果、延迟和成本怎么权衡,不是公式推导。你需要的原理是概念级的,知道模型为什么会幻觉、上下文窗口意味着什么、embedding 大致在做什么,这些不需要先修完一整门深度学习课。真要补到什么程度、哪些能力必须要、哪些可以跳过,转大模型应用开发数学要学到什么程度里按岗位分了层。一定要会 Python 吗?我只会 Java,能用吗? 需要会 Python,但不需要精通,Java 能力本身不浪费。大模…

#求职#职业转型

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配正文：…首中尾、滑动窗口聚合，或用层次化嵌入（段落→文档）关键：chunk边界尽量保留语义完整性，避免句子截断嵌入模型选型模型核心原理适用场景 Sentence-BERT 双塔结构+对比学习（NLI数据），生成sentence-level embedding 通用语义相似度，计算快 BERT-based 取[CLS]或mean pooling，需领域微调有标注数据的垂直场景 SBERT-WK 多层attention加权，捕捉不同层级语义需要细粒度语义区分的任务 Open…

#字节#文档处理#向量检索

面试题·模型微调

LLM 封闭标签如何强约束?

匹配正文：…：提供输入→标签的示例，稳定输出格式加格式约束："输出必须是以下之一：[A, B, C]，不要解释" 2. 约束解码（强保障）原理：在解码每一步，只保留合法标签token的logits，非法token概率置-∞ 实现：用FSM（有限状态机）或CFG（上下文无关文法）定义合法输出空间工具：Outlines、Guidance、lm-format-enforcer等库优势：在支持该约束且正常完成时限制输出属于允许集合；拒绝、截断、超时和分类语义错误另行处理。 3. Func…

#Agent#LLM 输出限定#封闭标签集

面试题·RAG· 字节

RAG 怎么提升生成准确性?

匹配标题与标签：RAG 怎么提升生成准确性? 通过检索外部知识增强 LLM 的事实一致性 RAG 字节外部知识检索 RAG 原理 Retrieval-Augmented Generation LLM 事实一致性字节

#字节#外部知识检索#RAG 原理

面试题·RAG

LLM 封闭标签方法对比

匹配正文：答案要点方法全面性（至少覆盖3种以上方法）方法原理清晰，能讲清"如何限制输出" 优劣对比有实际考量（如延迟、准确率、灵活性）提及工程落地细节（如缓存、并发）核心方法对比 1. 提示工程 + 输出解析（最简单）做法：Prompt里明确列出可选标签，要求模型单选；用正则/规则过滤非法输出优点：零改造成本，快速验证缺点：不可靠，模型可能幻觉、格式不统一；需兜底逻辑 2. Function Calling / Tool Use（推荐）做法：在所用模型/API支持时启用…

#封闭集合分类#约束解码#LLM 封闭标签方法对比

面试题·Agent· 小红书

LLM 输出格式不规范怎么修?

匹配正文：…kdown以外的内容" 局限：依赖模型指令遵循能力，强模型（GPT-4）效果好，弱模型仍可能漂移二、模型能力层（硬约束）技术原理适用场景 JSON Mode 约束输出token为合法JSON OpenAI/Claude等支持，最稳定 JSON Schema 预定义字段类型/必填/枚举值复杂结构化需求，可校验 Function Calling 强制输出匹配函数参数结构 Agent工具调用场景 Constrained Decoding 解码时限制token生成空间自研…

#小红书#Agent#LLM 输出格式规范

面试题·模型微调· 滴滴

大模型落地技术范式怎么选?

匹配口述回答：…果任务简单、数据量小、对效果要求不高，优先考虑这两个。再来说微调和RAG，这两条路是我在实际项目中纠结最多的。微调，尤其是 [[LoRA]] 这种 PEFT，能让模型深度适配你的领域，比如滴滴的司机调度策略，用历史订单数据微调后，模型能学到非常精细的定价逻辑。但微调成本高，数据要清洗标注，算力也要钱，而且模型知识是静态的，政策文档一更新就得重训。RAG 正好补这个短板，它外挂知识库，检索加生成，知识可以实时更新，回答还能溯源。比如智能客服，政策文档三天两头改，用RAG就能保…

#滴滴#模型微调#Agent

面试题·模型训练· 网易

SFT 置信度下降影响

匹配追问：…什么关系？……如果标签里有很多‘软’的标注，会怎么影响输出？直球架构 SFT后分类模型置信度降低，概率分布从尖锐变均匀。请从技术原理角度分析可能的原因，以及这种变化对模型部署有什么正面和负面影响。

#模型校准#标签平滑#温度缩放