完整题目
请给出均方误差(MSE)损失函数的数学定义,并说明其在回归问题中的应用场景及优缺点。
本文目录
定义
给定 n 个样本,预测 ŷ_i 与目标 y_i,均方误差为 MSE=(1/n)Σ_i(ŷ_i-y_i)²。对预测值的梯度是 2(ŷ_i-y_i)/n,因此大误差会获得更大的绝对梯度。
统计解释
若假设 y|x ~ N(f_θ(x),σ²),且 σ² 为固定常数,最大化条件高斯似然等价于最小化 MSE;最优预测对应条件均值。这里的常见假设是 Gaussian noise,而不是“误差均匀分布”。高斯分布也并非没有异常值,只是尾部概率随距离下降;真实数据的重尾、异方差和污染会让 MSE 变得脆弱。
优缺点与适用条件
优点是连续可导、实现简单,对大误差惩罚强;在线性回归下目标凸且有成熟解法。缺点是对异常值敏感,数值大小受目标量纲影响,而且单个点预测只表达条件均值,不能直接给出异方差或多峰不确定性。
适合条件是:业务关心条件均值、平方误差与实际代价大致一致、异常值已处理或可接受。不能把“短期股价预测”列为无条件适用例子,金融序列还涉及非平稳、重尾、泄漏和评测协议。
异常值较多可比较 MAE 或 Huber;噪声方差随输入变化可预测均值与方差并优化 Gaussian NLL;多峰目标可用分位数、混合密度或完整概率预测。选择应由验证集与业务代价决定。