匹配正文：…大更新，但裁剪上限没有通用值。若大量step持续触发裁剪，可能在掩盖学习率、损失尺度或数据问题；若从不触发，也不代表训练必然健康。LoRA的学习率同样依rank、缩放、batch、模型和数据而定，不能从一个固定起点机械搜索。 learning rate曲线要和warmup、decay及恢复checkpoint一起看。warmup阶段loss波动与主训练阶段含义不同；scheduler意外重置会让曲线和更新同时异常。任何诊断都应把实际optimizer state、loss s…

#训练监控#学习率调度#梯度裁剪

面试题·模型架构· 美团

MoE 怎么提升 Agent 能力?

匹配正文：…组件，也更容易做可观测、回退和人工审核。不能跨越的边界新工具接入通常需要schema、权限、数据和评测，不能概括成“给新专家做LoRA即可即插即用”。共享基座与不同专家不自动形成租户隐私隔离；隐私依赖访问控制、数据平面隔离、日志与部署边界。内部MoE路由和Agent的计划/工具选择可以组合，但优化目标、时间尺度和失败处理不同。选型时分别测内部MoE的质量、激活FLOPs、通信与延迟，以及编排层的路由准确率、工具成功率、回退率和安全隔离。图解 MoE 怎么提升 Ag…

#MoE#Agent#动态路由

面试题·模型训练· 网易

SFT 后置信度下降原因

匹配正文：…格的概率硬上界。模型与优化：分类头重置、学习率过大、灾难性遗忘、冻结层组合或训练不足都可能缩小类别间 logit margin。LoRA 的低秩本身不能推出“必然平均化”。实现：train/eval mode、dropout、BatchNorm 统计、label map、重复 softmax、temperature、checkpoint 与 dtype 不一致。修复先做数据与代码消融，再决定训练修复。温度缩放用 softmax(z/T) 在独立校准集拟合 T：T>1 …

希望老师帮你把学习与项目串起来？

了解 AI 全栈 1v1 陪跑营的项目安排、导师答疑与简历面试辅导。

查看课程安排 →咨询学习安排

学习内容与项目面试，在同一条路上。

站内 RAG 在线实战

#模型校准#温度缩放#标签平滑

面试题·模型训练· 阿里

SFT 硬件资源怎么配?

匹配正文：…片参数、梯度和优化器状态，并用 activation checkpointing、FlashAttention 等减少激活。普通 LoRA 冻结基座但仍需以所选精度加载它；QLoRA 才是把冻结基座以 4-bit 存储并训练 LoRA adapter。QLoRA 论文的单卡 48GB、65B 结果不能外推为普通 LoRA 或所有 70B 配置。多机时，tensor/pipeline/data parallel 的选择取决于单层是否放得下、网络拓扑与 batch。Pipeli…

#SFT#分布式训练#GPU显存计算

面试题·多模态· 小红书

主流生成式模型有哪些?

匹配正文：…告的产品，不把它用作具体架构归类的证据。 GPT-4V架构未公开到足以作为自回归图像生成范例；LlamaGen不是Meta项目。 LoRA主要减少适配参数，不天然降低扩散采样步数或推理时延；U-Net扩散也不能无条件套用LLM式KV cache。选型应按质量、可控性、单次延迟、吞吐、训练稳定性和公开证据比较。

#生成模型#GAN#VAE

面试题·推理优化· 美团

MoE 怎么增强 Agent 能力?

匹配正文：…更像一个有状态控制器，可基于任务类型、置信度、费用和权限选择子模块，并对工具调用结果继续决策。如果把Agent技能做成独立模型、LoRA、工具或工作流，路由粒度和训练方式都不同。一个新专家并不能无训练热插拔后就可靠工作。即便接口兼容，也要让路由器知道何时选它，校准输入输出契约，处理与已有专家的重叠，并对全链路做回归。可以用规则或描述先接入，但那是系统路由，不代表神经MoE权重已经对齐。多Agent还会引入上下文复制、循环调用、权限扩大和错误级联，所谓模块化只有在边界可测试时…

#MoE架构#Agent系统设计#任务路由

面试题·项目与经历· 字节

大模型 vs 搜推小样本特征怎么融合?

匹配正文：…常不应先用昂贵LLM粗排全库、再用廉价模型精排；除非有明确缓存、规模和延迟证据。小样本迁移：冻结大部分基座，使用adapter、LoRA、多任务或对比学习；防止把用户ID等无语义稀疏特征硬转成文本。联合评测：离线看Recall、NDCG、校准与分桶公平性，线上看延迟、成本和业务目标；严格按时间切分，防止未来行为泄漏。任何“某公司采用某方案”的说法都要有公开出处，否则只描述可验证的架构选择。

#特征工程#迁移学习#多模态融合

面试题·Agent· 阶跃星辰

闲聊误判为工具调用怎么防?

匹配正文：…n Calling前加二分类/多分类模块，输出chat/tool_call/uncertain三档可用轻量模型（如BERT级）或LoRA微调，降低主模型负担 2. 双模型架构路由模型：判断是否需要工具，决定走"闲聊分支"还是"工具分支" 执行模型：专精工具调用，减少闲聊数据干扰 3. 联合训练策略 SFT阶段加入"负例"：明确标注闲聊样本的tool_calls为空 RLHF阶段惩罚误调用：用户反馈"我没让你查这个"作为负向信号二、提示工程层 1. 边界定义清晰化只有当…

#介跃星辰#Agent#闲聊误判

面试题·文档处理· 字节

文本块怎么转向量并建索引?

匹配正文：…/text-embedding-3 大规模对比学习，支持matryoshka降维开箱即用，多语言，成本可控领域适配：垂直场景用LoRA微调或hard negative mining，避免 catastrophic forgetting。二、向量索引机制与数据库选型核心索引结构 HNSW：图索引，查询O(logN)，构建慢、内存高，精度最优，适合静态库 IVF：倒排文件，聚类后搜索，内存友好，适合大规模（>100M），需调nlist/nprobe PQ/OPQ：乘积量化…

#字节#文档处理#向量检索

面试题·评估· 美团

Agent 训练链路怎么搭建?

匹配正文：…型：选用指令遵循能力强的模型（如Llama-3-Instruct）结构：保持LM结构，通过prompt注入工具schema，或用LoRA微调工具感知模块关键：解耦"何时调用"（规划）与"如何调用"（参数生成），可用两阶段训练 4. 奖励机制奖励类型计算方式权重结果奖励任务完成度（EM/F1）高格式奖励 JSON合法性、字段完整中过程奖励步骤合理性（人工或模型打）中效率惩罚调用次数/轮数低解决稀疏奖励：对多步任务，引入密集过程奖励（每步是否正确…

#美团#Agent#Agent 训练链路

面试题·评估· 高德

多工具评分排序机制

匹配正文：…近N次调用的成功率，引入时间衰减成本项归一化后的延迟/费用，作为负向惩罚 2. 模型化打分（进阶）训练轻量级工具路由模型（如LoRA微调的BERT）：输入：任务上下文 + 候选工具元信息输出：各工具的概率分布优势：可捕捉"隐式偏好"，如特定场景下优先选内部API 关键优化策略动态置信度校准新工具采用乐观初始化（给予较高先验分），加速冷启动引入汤普森采样：在探索（试用新工具）与利用（选历史最优）间平衡反馈闭环工具执行后，将结果质量（是否需重试、下游任务是否…

#高德#Agent#智能体工具选择

面试题·评估· 淘天

偏好感知系统架构怎么选?

匹配正文：…：PPO（需KL散度约束防崩溃）或DPO（直接偏好优化，省去RM训练）个性化扩展用户画像embedding拼接到prompt LoRA适配器：不同用户群体/场景维护独立低秩矩阵三、评估体系维度指标方法偏好对齐胜率（Win Rate） GPT-4/人工盲评对话质量流畅度、多样性 perplexity、distinct-n 安全性有害内容率规则+分类器拦截业务指标转化率、满意度在线A/B测试关键陷阱：奖励黑客（Reward Hacking）——模型…

#淘天#偏好感知对话系统#对话系统训练数据

面试题·模型微调· 美团

RAG检索偏差怎么缓解?

匹配正文：…展为"2024新店推荐"+"高评分老店" 3. 自适应向量微调收集新文档的点击/转化反馈，用对比学习微调embedding模型（LoRA轻量更新）关键：混合采样新旧数据，防止灾难性遗忘 4. 分布感知的重排序训练阶段引入领域标签，推理时检测query分布，动态调整检索策略监控新文档的检索占比，低于阈值时触发告警落地关键监控看板：新文档命中率、头部结果多样性指标 A/B实验：灰度验证策略效果，避免全量风险学习建议建议掌握RAG基础架构，理解检索偏差成因，学习持续…

#美团#模型微调#RAG检索偏差

面试题·模型微调· 美团

RAG 为何比 SFT 更优?

匹配正文：…AG将知识外置到可动态更新的检索库，实现非参数化知识扩展。 RAG vs SFT：三维度对比 1. 知识更新 SFT：需重新训练/LoRA微调，周期长，难以追平实时信息 RAG：更新文档库即可，分钟级生效，适合新闻、股价、政策等动态场景 2. 事实准确性 SFT：依赖训练数据覆盖，长尾事实易遗漏或混淆 RAG：检索结果作为上下文约束生成，可溯源验证，降低幻觉 3. 推理能力 SFT：复杂推理需内化到参数，需大量高质量标注数据 RAG：检索提供中间证据（如多跳推理的桥梁文档），…

#美团#RAG vs SFT#RAG

面试题·模型微调· 小红书

意图识别结构化输出失败如何修复

匹配正文：…造：正样本：覆盖口语化、省略主语、多意图等复杂输入负样本：加入格式错误的输出作为对比学习（如字段缺失、类型错误）训练配置： LoRA微调即可，r=64~128，target_modules包含q_proj/v_proj 学习率2e-4，早停监控格式合法性指标损失设计：除next-token loss外，可加格式验证的辅助loss 四、实际落地建议分层防御：提示工程兜底 → 解码控制约束 → 微调提升上限 → 后校验修复（JSON解析失败时fallback到规则兜底）…

#小红书#意图识别格式优化#结构化输出

面试题·模型微调· 华为

Few-shot vs Zero-shot vs Fine-tuning 怎么选?

匹配正文：…定义模式，无需几百条标注数据做SFT 需求变化快/多租户场景：不同客户（运营商A/B/C）有各自格式规范，用动态示例切换比维护多个LoRA权重更灵活冷启动阶段：快速验证PMF，避免重训成本三方案对比决策：维度 Zero-shot Few-shot Fine-tuning 数据需求无 5-20条数百-数千条成本最低（推理）低（推理+示例token）高（训练+部署）效果天花板受基座能力限制中（模式迁移）高（深度适配）时效性即时即时小时-天级核心…

#华为#Few-shot 提示#Zero-shot 对比

面试题·模型微调

LLM 封闭标签如何强约束?

匹配正文：…模型自报置信度不等于已校准概率，应另做校准评估。 4. 微调/SFT（能力强化）构造指令-标签数据对，训练模型指令遵循能力配合LoRA高效微调，适合领域标签（如医疗诊断分类）注意：单独SFT无法100%保证封闭性，需配合解码约束 5. 后处理校验（兜底）完整解析并校验标签成员资格；非法、拒绝或不确定结果进入明确的待复核/失败状态或有界重试，不能静默伪装成一个有效业务类别。多标签场景用投票或一致性检查选型建议场景推荐方案快速验证 Few-shot + 后处理 …

#Agent#LLM 输出限定#封闭标签集

面试题·模型微调

生成质量差怎么调优?

匹配正文：…：用规则或小型模型检测答案是否覆盖文档关键点快速验证思路按成本从低到高尝试：Prompt调优 → 上下文压缩 → 轻量SFT（LoRA） → 全链路评估迭代

#RAG 生成质量#指令遵循#生成模块调优

面试题·RAG

RAG 和微调怎么选？

匹配正文：…表达方式和任务能力对入门者的建议是：九成的“让模型懂业务”需求，先用 RAG 验证效果，不够再考虑微调。入门之后，可以深入了解 LoRA 等低成本微调方法，以及 RAG 与微调结合落地的真实案例。

#入门#基础概念#RAG和微调的区别

面试题·模型微调

什么是微调(SFT)?和预训练有什么区别?

匹配正文：…要:几千条精标数据往往胜过几十万条脏数据。入门后可以继续追:SFT 之后的 RLHF/DPO 对齐、微调导致的灾难性遗忘,以及 LoRA 等参数高效微调方法。

#入门#基础概念#SFT 微调

面试题·Prompt· 字节

Coding Agent 表现差怎么排查?

匹配正文：…训练数据截止导致的API变更、新特性不了解改进策略引入RAG检索相关代码片段和官方文档作为上下文增强针对特定技术栈做SFT或LoRA微调采用"plan-then-code"模式：先输出设计文档/修改方案，再生成代码二、工具调用层面核心问题参数格式错误：JSON schema理解偏差，特别是嵌套结构、可选字段工具选择失误：面对模糊需求时选错工具（如用文件读取替代代码搜索）执行环境隔离：Agent无法感知实际运行环境状态（依赖缺失、权限问题）改进策略强化Fu…

#字节#百度#Agent

面试题·RAG

LLM 封闭标签方法对比

匹配正文：…编译和掩码计算可能增加开销；支持结构化输出的引擎通常可直接配置，无需自行修改源码，接口以所用版本为准。 4. 分类头微调（SFT/LoRA）做法：加线性层映射到标签空间，改为传统分类任务优点：分类头的输出索引天然落在预定义类别内；是否更快取决于编码器、序列与部署配置。缺点：需要标签数据与训练；该分类接口不负责通用生成，基座是否保留或受影响取决于冻结/微调方式，并非加头必然抹去通用能力。选型建议场景推荐方案快速验证/原型提示工程 + 解析生产环境、模型支持 F…

#封闭集合分类#约束解码#LLM 封闭标签方法对比

面试题·检索· 字节

医疗法律 RAG 架构关键环节

匹配正文：…期-发布日期) 三、生成器优化领域适配基座模型选择：7B/13B专业模型（如Huatuo-LLM、ChatLaw）或通用模型+LoRA微调 SFT数据构建：Query-Context-Answer三元组，强调引用溯源（"根据《XX法》第X条..."）生成约束 Prompt模板强制要求：① 不确定性声明 ② 引用来源标注 ③ 拒绝回答机制（超范围问题）解码参数：降低temperature（0.3-0.5），使用重复惩罚避免循环生成四、关键保障机制机制实现幻觉检测…

#字节#领域RAG架构#专业领域 RAG

面试题·模型训练· 网易

SFT 置信度下降影响

匹配口述回答：…decay 和 dropout 是否增强，以及训练是否提前停止。大步更新可能让原有特征被破坏，冻结过多又可能让分类头无法适配新域。LoRA 只是限制更新子空间，不会天然把概率平均化，仍要比较层级 logit、特征可分性与权重更新。实现层经常被忽略。推理是否调用 eval、dropout 是否关闭、BatchNorm 统计是否一致、label id 是否错位、是否对已经归一化的概率再次 softmax、temperature 是否沿用旧配置、加载的 checkpoint 与 …

#模型校准#标签平滑#温度缩放