匹配正文：…lama.cpp的GBNF）小红书场景建议：优先用Function Calling，将意图定义为工具函数，slot作为参数三、微调策略层面核心思路：让模型"见过"各种边界情况数据构造：正样本：覆盖口语化、省略主语、多意图等复杂输入负样本：加入格式错误的输出作为对比学习（如字段缺失、类型错误）训练配置： LoRA微调即可，r=64~128，target_modules包含q_proj/v_proj 学习率2e-4，早停监控格式合法性指标损失设计：除next-to…

#小红书#意图识别格式优化#结构化输出

面试题·模型微调

LLM 封闭标签如何强约束?

匹配正文：…约束解码，但不要据接口名称推断所有厂商的内部实现或保证。可附标签与理由；模型自报置信度不等于已校准概率，应另做校准评估。 4. 微调/SFT（能力强化）构造指令-标签数据对，训练模型指令遵循能力配合LoRA高效微调，适合领域标签（如医疗诊断分类）注意：单独SFT无法100%保证封闭性，需配合解码约束 5. 后处理校验（兜底）完整解析并校验标签成员资格；非法、拒绝或不确定结果进入明确的待复核/失败状态或有界重试，不能静默伪装成一个有效业务类别。多标签场景用投票或一致…

#Agent#LLM 输出限定#封闭标签集

面试题·模型微调

生成质量差怎么调优?

匹配正文：…mpt工程优化（指令明确化、Few-shot示例、角色设定）上下文处理策略（重排序、压缩、截断优化）模型层面的SFT/RLHF微调生成控制参数与后处理校验机制问题定位首先确认是纯生成问题（检索结果已准确），而非检索-生成不匹配。常见症状：内容拼凑感强、逻辑断裂、答非所问。核心优化策略 1. Prompt工程（零成本首选）指令结构化：明确输出格式（"请分三点回答"）、约束条件（"仅基于提供的文档"） Few-shot示例：在Prompt中嵌入2-3个高质量输入-输…

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#RAG 生成质量#指令遵循#生成模块调优

面试题·RAG

LLM 封闭标签方法对比

匹配正文：…。缺点：文法编译和掩码计算可能增加开销；支持结构化输出的引擎通常可直接配置，无需自行修改源码，接口以所用版本为准。 4. 分类头微调（SFT/LoRA）做法：加线性层映射到标签空间，改为传统分类任务优点：分类头的输出索引天然落在预定义类别内；是否更快取决于编码器、序列与部署配置。缺点：需要标签数据与训练；该分类接口不负责通用生成，基座是否保留或受影响取决于冻结/微调方式，并非加头必然抹去通用能力。选型建议场景推荐方案快速验证/原型提示工程 + 解析生产环境…

#封闭集合分类#约束解码#LLM 封闭标签方法对比

求职指南·求职

大模型应用开发岗和算法岗有什么区别、普通工程师怎么选

匹配正文：…有的偏训练数据。 “边界模糊”到底是什么意思边界模糊不是说所有人都要变成全能选手,而是应用和算法开始在几个地方交汇: RAG 与微调的取舍:以前应用岗只问怎么检索,现在会问什么时候需要 LoRA/SFT。 Agent 与训练数据:复杂 Agent 需要高质量轨迹数据,应用工程师要能理解数据怎么来。评估驱动迭代:算法岗关心 benchmark,应用岗也要关心离线评估和线上反馈。推理成本进入系统设计:模型效果不再是唯一目标,延迟、吞吐、显存和调用成本都会被问。所以更好的定…

#求职#职业转型

求职指南·求职

大模型应用开发岗一天在做什么?细分岗位画像

匹配正文：…、跑得快模型服务、并发、显存、KV Cache、监控、灰度后端、SRE、平台工程、基础架构背景推理优化、模型架构应用算法/微调让模型更适合某个场景数据构造、SFT/LoRA、评估、偏好数据、实验对比算法、研究生、做过训练或评估的人模型微调、RLHF 与对齐这四类不是互斥的。一个小团队里,同一个人可能既做 RAG,又写 Agent,还要管评估和部署。转行准备时可以先选一个主战场,但要知道旁边三块会被追问。 RAG 工程师一天在做什么 RAG 工程的日常不是“把…

#求职#职业转型

面试题·模型训练· 网易

SFT 置信度下降影响

匹配口述回答：…LL、Brier、ECE 与可靠性图，Focal Loss 也不能代替温度校准。【90秒主答】先固定同一份验证或测试数据，比较微调前后的预测类别、最大概率、logit margin 和错误样本。若置信度降低但准确率不变，NLL 与 ECE 反而更好，原模型可能只是过度自信，没必要强行把分布变尖。若准确率和置信度一起下降，才更像表示退化、域迁移或训练不足。若总体准确率正常，但某些类别明显变平，应检查类别先验、class weighting 和该类数据质量。数据层面，SFT…

#模型校准#标签平滑#温度缩放

求职指南·求职

后端工程师转大模型应用开发:已有经验怎么迁移

匹配正文：…定要会训练模型吗不用。应用开发岗几乎不训模型,日常是把模型「用好」:检索增强、Prompt 迭代、工具编排、服务化和评估。会一点微调(比如 LoRA)是加分,但不是门槛。被问到训练细节,坦诚边界,然后把话题引回你有生产经验的检索和部署链路即可。我是 Java 后端不会 Python,转型难吗不难。语言是最小的障碍,大模型应用的核心是系统能力,而系统能力和语言无关。Python 语法一两周能上手,重点是把生态里常用的库和调 API 的姿势练熟。你过去写服务、调依赖、处理数…

#求职#职业转型

求职指南·求职

大模型岗面试流程全解:每一轮考什么、怎么准备

匹配正文：…检索、重排)、评估指标。 Agent 方向:工具调用与规划(Function Calling、ReAct、失败恢复、多步编排)。微调方向:LoRA/QLoRA 原理、数据构造、灾难性遗忘。推理方向:KV Cache、量化、批处理与吞吐优化。这些在领域八股速通里按模块整理好了,题库入口在 /questions,每道题有书面答案和口语版讲法。练的重点是「能顺畅讲出来」,不是「看懂点头」——面试是口试,看懂和讲清楚之间差一个数量级。技术二面:系统设计 + 边界试探结论:二…

#求职#职业转型

求职指南·求职

大模型岗位 JD 怎么读:招聘要求逐条拆解

匹配正文：…tion Calling / ReAct / MCP」 Agent 岗核心项,会追问实现细节 MCP 入门、工具调用「熟悉大模型微调」应用岗通常只考 LoRA/SFT 概念与「何时微调 vs 何时 RAG」题库「模型微调」模块的判断类真题「熟悉推理优化(vLLM、量化、KV Cache)」部署方向核心项,其他方向是加分项题库「推理优化」模块「良好的工程能力」代码能读能维护、懂接口/异步/日志/稳定性后端老本行,把它翻译成大模型系统语言「有 0-1 项目经验…

#求职#职业转型

面试题·项目与经历· 字节

大模型任务表现差怎么排查？

匹配正文：…mask、tokenizer、学习率、梯度、checkpoint加载和数据配比，并用少量样本过拟合测试确认实现能学习。若确定需要微调，就建立可比较基线。LoRA的target modules、rank、alpha、学习率和dropout都是实验变量；更高rank不必然适合复杂任务，解冻norm也不是通用处方。全量微调增加自由度和训练状态，可能改善，也可能过拟合或破坏通用能力，必须放在相同数据与预算下比较。架构改造只在证据指向容量或信息路径瓶颈时进行。例如长上下文失败要区分…

#模型调试#bad case分析#数据质量

求职指南·求职

转行大模型应用开发常见问题(FAQ)

匹配正文：…RAG 系统实战教程做出一个能追问的项目,再去题库刷 Agent 模块。整个学习顺序的完整拆解在转大模型应用开发路线图。要不要学微调?应用岗用得上吗? 多数应用岗不要求你亲手微调,但要求你讲得清什么时候该微调、什么时候 RAG 或 Prompt 就够。面试里微调更多以概念题出现:LoRA 和全参的区别、微调和 RAG 怎么选、数据要怎么准备。所以顺序是把微调放第二阶段,先用 RAG 和 Agent 拿到面试机会,微调作为加分项按目标岗位选修。想验证自己理解到位没有,直接去题…

#求职#职业转型

面试题·模型训练· 阿里

模型收敛怎么判断?

匹配追问：…在下降但验证集指标已经 plateau，你会继续训练吗？为什么大模型训练中梯度norm突然飙升或归零，可能是什么原因，如何处理 LoRA微调和全量微调在收敛判断上有什么差异场景切入假设你正在微调一个电商客服大模型，训练过程中loss一直在降，但上线后用户反馈回答质量很差。你平时怎么判断模型真的收敛了？除了看loss，还会关注哪些信号？层层追问训练大模型时，你怎么知道它训好了？……光看loss曲线够吗？……那梯度方面呢？怎么判断有没有收敛？……如果验证集指标连续几个e…

#模型收敛#损失曲线#早停策略

面试题·Agent· 阶跃星辰

闲聊误判为工具调用怎么防?

匹配正文：…n Calling前加二分类/多分类模块，输出chat/tool_call/uncertain三档可用轻量模型（如BERT级）或LoRA微调，降低主模型负担 2. 双模型架构路由模型：判断是否需要工具，决定走"闲聊分支"还是"工具分支" 执行模型：专精工具调用，减少闲聊数据干扰 3. 联合训练策略 SFT阶段加入"负例"：明确标注闲聊样本的tool_calls为空 RLHF阶段惩罚误调用：用户反馈"我没让你查这个"作为负向信号二、提示工程层 1. 边界定义清晰化只有当…

#介跃星辰#Agent#闲聊误判

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配正文：…ce-level embedding 通用语义相似度，计算快 BERT-based 取[CLS]或mean pooling，需领域微调有标注数据的垂直场景 SBERT-WK 多层attention加权，捕捉不同层级语义需要细粒度语义区分的任务 OpenAI/text-embedding-3 大规模对比学习，支持matryoshka降维开箱即用，多语言，成本可控领域适配：垂直场景用LoRA微调或hard negative mining，避免 catastrophic f…

#字节#文档处理#向量检索

面试题·评估· 美团

Agent 训练链路怎么搭建?

匹配正文：…型：选用指令遵循能力强的模型（如Llama-3-Instruct）结构：保持LM结构，通过prompt注入工具schema，或用LoRA微调工具感知模块关键：解耦"何时调用"（规划）与"如何调用"（参数生成），可用两阶段训练 4. 奖励机制奖励类型计算方式权重结果奖励任务完成度（EM/F1）高格式奖励 JSON合法性、字段完整中过程奖励步骤合理性（人工或模型打）中效率惩罚调用次数/轮数低解决稀疏奖励：对多步任务，引入密集过程奖励（每步是否正确…

#美团#Agent#Agent 训练链路

面试题·评估· 高德

多工具评分排序机制

匹配正文：…近N次调用的成功率，引入时间衰减成本项归一化后的延迟/费用，作为负向惩罚 2. 模型化打分（进阶）训练轻量级工具路由模型（如LoRA微调的BERT）：输入：任务上下文 + 候选工具元信息输出：各工具的概率分布优势：可捕捉"隐式偏好"，如特定场景下优先选内部API 关键优化策略动态置信度校准新工具采用乐观初始化（给予较高先验分），加速冷启动引入汤普森采样：在探索（试用新工具）与利用（选历史最优）间平衡反馈闭环工具执行后，将结果质量（是否需重试、下游任务是否…

#高德#Agent#智能体工具选择

面试题·评估· 淘天

偏好感知系统架构怎么选?

匹配正文：…r优先标注领域覆盖：电商场景需覆盖售前咨询、售后、比价等细分场景二、模型架构三阶段RLHF流程 SFT：用高质量对话数据监督微调，建立基础对话能力 Reward Model：输入(prompt, response)输出标量分数，常用架构在最后一层加回归头损失函数：-log σ(r_θ(x,y_w) - r_θ(x,y_l)) 多任务扩展：多维度分数→加权求和或MoE结构强化学习：PPO（需KL散度约束防崩溃）或DPO（直接偏好优化，省去RM训练）个性化扩展用户画…

#淘天#偏好感知对话系统#对话系统训练数据

面试题·模型微调· 滴滴

大模型落地技术范式怎么选?

匹配口述回答：…们最大的好处是快、便宜，但受模型本身能力上限和上下文长度限制。所以如果任务简单、数据量小、对效果要求不高，优先考虑这两个。再来说微调和RAG，这两条路是我在实际项目中纠结最多的。微调，尤其是 [[LoRA]] 这种 PEFT，能让模型深度适配你的领域，比如滴滴的司机调度策略，用历史订单数据微调后，模型能学到非常精细的定价逻辑。但微调成本高，数据要清洗标注，算力也要钱，而且模型知识是静态的，政策文档一更新就得重训。RAG 正好补这个短板，它外挂知识库，检索加生成，知识可以实时…

#滴滴#模型微调#Agent

面试题·模型微调· 字节

RAG Embedding 模型怎么选?

匹配口述回答：…型在术语上的编码质量。比如一个医疗诊断系统，'心肌梗死'和'心绞痛'的向量距离如果太近，召回就乱。前提是得有领域数据做验证，不行就微调。微调不贵，用[[LoRA]]在几百条数据上跑几小时，效果提升明显。工程兼容性容易被忽略。输出维度是768还是1024？得和你的[[Vector Database]]匹配，不然存不进去。还有归一化，模型输出是不是单位向量？这决定了相似度计算用cosine还是点积。上线前我会特别关注，否则线上出现维度不匹配的报错就尴尬了。所以整体上，我把选型…

#字节#向量检索#RAG Embedding 选型

面试题·Prompt· 字节

Coding Agent 表现差怎么排查?

匹配正文：…训练数据截止导致的API变更、新特性不了解改进策略引入RAG检索相关代码片段和官方文档作为上下文增强针对特定技术栈做SFT或LoRA微调采用"plan-then-code"模式：先输出设计文档/修改方案，再生成代码二、工具调用层面核心问题参数格式错误：JSON schema理解偏差，特别是嵌套结构、可选字段工具选择失误：面对模糊需求时选错工具（如用文件读取替代代码搜索）执行环境隔离：Agent无法感知实际运行环境状态（依赖缺失、权限问题）改进策略强化Fu…

#字节#百度#Agent

面试题·检索· 字节

医疗法律 RAG 架构关键环节

匹配正文：…期-发布日期) 三、生成器优化领域适配基座模型选择：7B/13B专业模型（如Huatuo-LLM、ChatLaw）或通用模型+LoRA微调 SFT数据构建：Query-Context-Answer三元组，强调引用溯源（"根据《XX法》第X条..."）生成约束 Prompt模板强制要求：① 不确定性声明 ② 引用来源标注 ③ 拒绝回答机制（超范围问题）解码参数：降低temperature（0.3-0.5），使用重复惩罚避免循环生成四、关键保障机制机制实现幻觉检测…

#字节#领域RAG架构#专业领域 RAG

面试题·多模态· 快手

多模态融合与对齐怎么改进?

匹配口述回答：…er 就解决视频帧间关系”。视频还需要时间位置、帧间注意力、运动特征或明确的时序训练数据。第三层是效率。可以冻结部分编码器、用 LoRA 等参数高效方法、对视觉 token 做 resampling、按内容选择分辨率，或者先对齐再指令微调。数据侧要做去重、配对质量、OCR 与细粒度描述检查。不过“百分之十高质量数据一定胜过百分之百低质量数据”只是口号。正确做法是固定训练 token 和模型，比较不同筛选策略对 grounding、幻觉和长尾任务的影响，再决定删多少数据。第…

#模态融合#跨模态对齐#训练效率

面试题·项目与经历· 字节

大模型 vs 搜推小样本特征怎么融合?

匹配口述回答：…评论和知识内容，把向量写入ANN索引；双塔在大候选库中做高吞吐召回。领域数据有限时，先冻结大部分基座，用对比学习、adapter或LoRA适配，并通过点击、购买或人工相关性构造正样本和硬负样本。还可以把较大cross-encoder的分数蒸馏给双塔。排序阶段把语义向量与结构化、行为和上下文特征一起输入可控的ranker。对于复杂意图，可在传统召回或双塔召回后，对几十到几百个候选使用cross-encoder或LLM重排、抽取属性、判断约束和生成解释。这样昂贵模型只处理小候选…

#特征工程#迁移学习#多模态融合