---

huber lossについて

概要

• MSEで回帰すると外れ値にだいぶ影響されてしまう問題を解決するため、ある一定数以下まではMSEで、それ以上ではMAEの損失を用いる
  • 外れ値ロバストになる
• sklearnにsklearn.linear_model.HuberRegressorが存在する

定義

\[{\displaystyle L_{\delta }(a)={\begin{cases}{\frac {1}{2}}{a^{2}}&{\text{for }}|a|\leq \delta ,\\\delta \cdot \left(|a|-{\frac {1}{2}}\delta \right),&{\text{otherwise.}}\end{cases}}}\]

---

参考

• Regression in the face of messy outliers? Try Huber regressor
• Huber loss/Wikipedia