• home
  • about
  • 全ての投稿
  • ソフトウェア・ハードウェアの設定のまとめ
  • 分析関連のまとめ
  • ヘルスケア関連のまとめ
  • 生涯学習関連のまとめ

双対数

date: 2022-02-18 excerpt: 双対数(ハイパーデュアルナンバー)について

tag: statistics機械学習双対数自動微分


双対数(ハイパーデュアルナンバー)について

概要

  • 自然数は二乗してもゼロになる数は0に限定される
    • この性質をゼロ以外で二乗してゼロになる数をεとして定義する
    • イメージとしては虚数に近いが、虚数は二乗すると負になるが、双対数はゼロになる

性質

  • 自動微分を行う基本的な性質である

四則演算の例

\[(a + b \epsilon ) (c + d \epsilon) = 1 \\ ac + (ad + bc) \epsilon + \epsilon ^ 2 = 1 \\\]

\(\epsilon^2 = 0\)だから

\[ac = 1 \\ ad + bc = 0\]

自動微分の例

以下のような関数があるとする \(f(x) = x^2 + 2x + 3\) 双対数の軸に拡張すると \(f(x + \epsilon) = (x+\epsilon)^2 + 2(x+\epsilon) + 3 \\ = x^2 + 2 \epsilon x + \epsilon^2 + 2x + 2 \epsilon + 3 \\ = x^2 + 2x + 3 + (2x + 2) \epsilon\) となり、\(\epsilon\)の係数部分に元の関数を微分したものが現れる

参考

  • 二重数
  • 奇妙な数!双対数の不思議な数学の世界


statistics機械学習双対数自動微分 Share Tweet