huber loss

/

huber lossについて

タグ huber loss huber regression

概要

  • MSEで回帰すると外れ値にだいぶ影響されてしまう問題を解決するため、ある一定数以下まではMSEで、それ以上ではMAEの損失を用いる
    • 外れ値ロバストになる
  • sklearnにsklearn.linear_model.HuberRegressorが存在する

定義

\[{\displaystyle L_{\delta }(a)={\begin{cases}{\frac {1}{2}}{a^{2}}&{\text{for }}|a|\leq \delta ,\\\delta \cdot \left(|a|-{\frac {1}{2}}\delta \right),&{\text{otherwise.}}\end{cases}}}\]

参考