页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「训练稳定性」找到 32 条内容
按专题浏览 →匹配标题与标签：大模型微调与训练面试题大全 大模型微调与训练面试准备枢纽：LoRA、SFT、DPO、RLHF、数据构造、训练稳定性、Post-Train 项目与应用岗取舍 110+ 道真题。 模型微调 专题学习 大模型微调与训练面试题大全
匹配正文：…高：rollout、奖励模型、价值函数、KL 和多模型显存都要管理 较低：无需奖励模型与在线采样，但仍要维护参考模型或其缓存概率 训练稳定性 对奖励尺度、KL、优势估计和采样分布敏感 通常更容易训练，但仍受 beta、标注噪声、长度偏差、参考模型和过拟合影响 效果表现 适合有可靠标量奖励、在线反馈或需要随当前策略持续采样的任务 适合已有高质量离线偏好对、预算有限、需要快速迭代的任务 选型判断 优先 DPO 已有覆盖目标分布的高质量偏好对，偏好边界清晰 希望复用 SFT 训练设…
匹配正文：…ask并处理训练推理统计差异，可以构造变体，但通常引入跨样本耦合和更复杂的部署行为。 工程比较应控制模型、初始化和batch，观察训练稳定性、不同长度/批量下的一致性、吞吐和最终质量，而不是用“BN需要大batch”一条绝对规则结束。
学习内容与项目面试，在同一条路上。