页面加载中…
搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「梯度特性」找到 2 条内容
按专题浏览 →匹配题目:均方误差(MSE)与交叉熵损失函数在数学定义、适用任务和梯度特性上有何本质区别?为什么在大语言模型的预训练和微调中普遍采用交叉熵而非MSE作为损失函数?
匹配口述回答:…类别数特别多,计算量怎么优化,或者样本不平衡时怎么调整损失。 所以我会把交叉熵看成逻辑回归的默认选择,它跟sigmoid天然配对,梯度特性好,又有概率解释。但在真实业务里,我会根据误判成本、样本分布做调整,不会无脑套公式。 一句话定位:损失函数本质是让模型输出概率尽量贴近真实,设计动机来自极大似然估计 数学表达式与直观理解:分情况写,y=1时希望预测概率大,y=0时希望小 对比MSE:sigmoid饱和导致梯度消失,交叉熵梯度非饱和,学习信号强 业务落地:比如客服退款场景,误…
学习内容与项目面试,在同一条路上。