搜索中文正文和常见中英文技术词,按教程、项目、面试题筛选。
「MSE」找到 8 条内容
按专题浏览 →匹配正文:定义 给定 n 个样本,预测 ŷ_i 与目标 y_i,均方误差为 MSE=(1/n)Σ_i(ŷ_i-y_i)²。对预测值的梯度是 2(ŷ_i-y_i)/n,因此大误差会获得更大的绝对梯度。 统计解释 若假设 y|x ~ N(f_θ(x),σ²),且 σ² 为固定常数,最大化条件高斯似然等价于最小化 MSE;最优预测对应条件均值。这里的常见假设是 Gaussian noise,而不是“误差均匀分布”。高斯分布也并非没有异常值,只是尾部概率随距离下降;真实数据的重尾、异方差和污染…
匹配正文:数学目标与梯度不同 MSE 定义为 L=(1/n)Σ(ŷ-y)²,适合连续回归,在固定同方差 Gaussian 条件模型下对应最大似然和条件均值。分类若把 sigmoid 概率 p 与标签 y 代入 MSE,则 dL/dp=2(p-y),而 p=σ(z) 时 dL/dz=2(p-y)p(1-p)。不能把对概率和对 logit 的导数混写。 二分类交叉熵为 L=-[y log p+(1-y)log(1-p)],与 sigmoid 合并后 dL/dz=p-y。多分类 softma…
匹配正文:MSE为什么通常不是分类首选 MSE并非不能用于分类,但对sigmoid二分类,若 p=sigmoid(z),则: d((p-y)^2)/dz = 2(p-y)p(1-p) 当模型自信但预测错误时,p(1-p)可能很小,logit梯度反而被饱和压弱。若只写对概率p的梯度 2(p-y),就不能再据此说端点梯度小;两者必须区分。交叉熵对应Bernoulli/类别分布的负对数似然,并避免额外的sigmoid导数因子,因此通常更匹配分类。 Focal Loss FL(p_t) = -…
学习内容与项目面试,在同一条路上。