搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「成本」找到 713 条内容
按专题浏览 →匹配正文:… → I-PER 或 B-ORG → I-PER。CRF 的收益取决于数据量、标签体系和 encoder 强度,也会增加训练/解码成本;应与 token classifier 在 span-F1、非法率和延迟上公平比较。 图解 BERT+CRF 怎么联合训练?图解
匹配正文:…用排名、leave-one-out baseline或不同KL估计,应明确标为变体,不能回写成原始GRPO定义。它降低了价值模型的成本,但组大小、奖励方差、答案重复和零方差组都会影响信号;组内归一化也不会自动修正错误奖励。 DPO来自一个带 KL 正则的奖励最大化目标以及 Bradley-Terry 式偏好模型。论文把隐式奖励写成策略相对参考策略的对数比,进而得到二分类形式的损失。说它只是把强化学习改成分类会漏掉推导,也会误导能力边界。只要偏好数据明确比较了长度、格式或语气,…
匹配正文:…modules与量化配置。质量侧看目标任务、通用能力和安全回归;系统侧看训练吞吐、峰值显存、checkpoint大小、加载和多租户成本。若PEFT满足质量门槛且需要多任务适配,它通常更经济;不能只凭参数比例下结论。 还要分清checkpoint大小与训练峰值显存。LoRA文件可能只有几十或几百MB,但前向仍需加载完整基座;长序列激活甚至会超过适配器相关状态。使用量化基座时,部分算子会临时反量化或采用更高精度计算,峰值不能只按4bit权重估算。多卡全参训练通过ZeRO或FSDP…
按学习路线查看教程、项目和面试题。