均方误差（Mean Square Error,MSE）和平均绝对误差（Mean Absolute Error,MAE) 可以说是回归损失函数的基础。但是MSE对对离群点（异常值）较敏感，MAE在梯度下降的过程中收敛较慢，就出现各种样的分段损失函数，在loss值较小的区间使用MSE，loss值较大的区间使用MAE。
Huber Loss ，需要一个超参数\(\delta\) ,来定义离群值。$ \text{smooth } L_1$ 是\(\delta = 1\) 的一种情况。
Log-Cosh Loss, Log-Cosh是比\(L_2\) 更光滑的损失函数，是误差值的双曲余弦的对数.
Quantile Loss , 分位数损失，则可以设置不同的分位点，控制高估和低估在loss中占的比重。