1. 为什么说MSE不适合分类任务？

在深度学习分类任务中，损失函数的选择直接影响模型的学习效果。均方误差（Mean Squared Error，MSE）作为回归问题的标准损失函数，被部分初学者误用于分类场景，这种选择实际上会给模型训练带来系统性偏差。

1.1 MSE的数学本质

MSE计算的是预测值与真实值的欧式距离平方和：
$$
L_{MSE} = \frac{1}{N}\sum_{i=1}^N(y_i - \hat{y}_i)^2
$$

对于二分类问题，真实标签$y_i\in{0,1}$，而模型输出$\hat{y}_i$经过sigmoid激活后位于(0,1)区间。此时MSE会产生两个致命问题：

1. 当预测正确时（如$\hat{y}_i=0.9$对应$y_i=1$），梯度$\frac{\partial L}{\partial \hat{y}_i}=-2(1-0.9)=0.2$
2. 当预测错误时（如$\hat{y}_i=0.1$对应$y_i=1$），梯度$\frac{\partial L}{\partial \hat{y}_i}=-2(1-0.1)=1.8$

1.2 梯度消失问题实证

通过对比实验可以观察到：

• 使用MSE时，模型在训练初期（预测不准时）梯度较大
• 随着预测接近目标值（如0.9→1.0），梯度快速衰减
• 在分类边界附近（如0.5附近）梯度反而最小

这种非单调的梯度变化会导致：

1. 错误预测时梯度爆炸风险
2. 接近正确时学习停滞
3. 决策边界附近更新乏力

实测案例：在MNIST数据集上，使用相同网络结构时，MSE需要3倍以上的epoch才能达到交叉熵90%的准确率。

2. 交叉熵的优越性证明

2.1 信息论视角

交叉熵损失函数：
$$
L_{CE} = -\sum_{i=1}^N y_i\log(\hat{y}_i)
$$

其梯度计算为：
$$
\frac{\partial L}{\partial \hat{y}_i} = -\frac{y_i}{\hat{y}_i}
$$

这种设计带来三个关键优势：

1. 错误越严重（$\hat{y}_i$越小），梯度越大
2. 预测越准确（$\hat{y}_i\to 1$），梯度平缓下降
3. 始终保持单调的梯度变化规律