页面加载中…
搜索中文正文和常见中英文技术词，按教程、项目、面试题筛选。
「过拟合/欠拟合」找到 3 条内容
按专题浏览 →匹配正文：…难度分桶观察训练与验证差异。训练样本上的模板记忆、长答案复读或罕见提示失效，可以作为辅助证据，但不能用一个固定loss gap宣判过拟合。 缓解顺序从数据开始：去重、修正标签、增加覆盖不足的真实样本、降低模板集中度，并重新检查切分。训练侧可以早停、降低有效训练步数、调整学习率、weight decay、dropout或数据混合。每种正则都可能导致欠拟合，需要和原配置做单变量对照。 LoRA、QLoRA或全量微调只是可训练参数组织方式，不存在一组rank、alpha、dropo…
匹配标题与标签：…微调效果差怎么排查? 从数据、超参数、架构适配、训练策略4个维度系统分析 模型训练 LoRA 参数高效微调 故障排查 超参数调优 过拟合/欠拟合 2026真题 LoRA 微调效果差 LoRA 优化方案 LoRA 超参数调优 大模型训练与微调 得物
匹配追问：如果loss曲线出现断崖式下跌后持续平稳，可能是什么原因？如何判断是过拟合还是欠拟合？ 在RLHF阶段，reward model的loss和PPO的loss曲线应该如何解读？ 训练大模型时，你通常如何设置early stopping的监控指标？ 场景切入 假设你在训练一个客服大模型，跑到一半看loss曲线像过山车一样上下乱跳，你第一反应是啥？会怎么调？ 层层追问 训练大模型的时候你一般看哪些曲线？……比如loss一直降不下去，或者grad norm突然飙到几百，你一般怎么排查…
学习内容与项目面试，在同一条路上。