---

最急降下法について

概要

• 最適化の方法の一つ
• 対象の関数が偏微分できること

手順

1. 適当に一点を選ぶ
2. 偏微分を計算し、降下方向を決定する
3. ステップ幅ぶんだけ降下する
4. 2にもどる

具体例

\[f(x, y) = x^2 + y^3 - 3\]

これを最適化する

xで偏微分すると\(2x\) yで偏微分すると\(3y\)

\((x_0, y_0) = (1, 1)\)の最急降下の方向は\((2, 3)\)の逆の向きの\((-2, -3)\)

つまり、\((x_1, y_1) = (x_0, y_0) + \alpha(-2, -3) = (1-2\alpha, 1-3\alpha)\)

参考

• 最急降下法のイメージと例