模型收敛怎么判断?

判断模型是否收敛，先要说明收敛指什么。优化层面是当前学习率和训练预算下，训练目标的改善已经很小；产品层面则是独立验证集上的目标能力不再稳定提升。训练loss趋平不等于模型已经泛化，验证指标变差也不是收敛，而可能是过拟合、数据漂移或评测噪声。

损失曲线应看移动平均、不同数据桶和多个评测点的趋势，而不是要求波动小于某个固定比例。大batch、混合数据、课程采样和学习率变化都会改变局部波动。若训练loss突然上升，要联查数据batch、学习率、精度溢出和恢复checkpoint；若缓慢下降但验证任务停滞，可能是目标与业务指标不一致。

梯度范数适合做异常诊断，但没有跨模型通用的正常绝对值。它受参数规模、归一化、损失缩放和分布式聚合影响。更有意义的是与同配置历史run比较，查看非有限值、持续突变、各层梯度分布和参数更新相对权重的大小。gradient clipping是稳定手段，裁剪阈值也应通过基线与日志标定。

验证侧要选择与任务相符的指标。语言建模可看验证loss或PPL，SFT还要看指令遵循、格式、事实性、拒答和多轮一致性；自动指标不足时加入固定盲样的人评。只有主要指标在多个评测点没有超过噪声的改善，并且训练仍稳定，才有理由认为继续训练的边际收益很低。

早停可以保存最佳checkpoint，并在预先定义的评测节奏上观察耐心窗口。窗口长度、最小改善和评测频率取决于数据量、训练速度、指标方差和成本，不应背成固定epoch数。学习率衰减后loss自然变慢，也要区分是接近最优，还是学习率过小导致欠训练。

工程上我会记录训练与验证曲线、梯度和更新范数、样本吞吐、异常batch及人工抽检，预先写下继续、早停和回滚条件。必要时用相同配置延长一小段训练做验证，而不是依据单个点下结论。收敛判断最终是多证据一致，而不是某条曲线跨过通用阈值。

图解

放大查看图解 ↗