损失函数¶
RMSE¶
Root Mean Square Error,均方根误差,是一种回归损失函数,用于衡量预测值与真实值之间的差异。公式为:
\[\mathrm{RMSE} = \sqrt{\frac{1}{n}\sum_{i=1}^{N}(y_i-\hat{y}_i)^2}\]
RMSE 对过估计和欠估计的惩罚是等价的,这意味着预测输出将均匀分布在真值附近。
BCE¶
Binary Cross-Entropy Loss,二元交叉熵损失,是一种分类损失函数,通常用于二分类问题。公式为
\[\mathrm{BCE} = -\frac{1}{N}\sum_{i=1}^{N}\left[y_i\log(\hat{y}_i)+(1-y_i)\log(1-\hat{y}_i)\right]\]
这里的 \(y_i \in \{0,1\}, \hat{y}_i \in \left[0,1\right]\) . 也就是说,真值是一个二分类的值,预测输出是一个概率分布。
当真值 \(y_i = 0\) 时,对应项的损失为 \(-\log(1-\hat{y}_i)\) ;当真值 \(y_i = 1\) 时,对应项的损失为 \(-\log(\hat{y}_i)\) .
因为使用了对数函数,所以该损失函数对极端偏离的情况惩罚极大。