標準正規分布から正規分布へ

 今回は、標準正規分布の確率密度関数から正規分布の確率密度関数を導出していきたいと思います。

標準正規分布

 標準正規分布は、正規分布\(N(\mu, \sigma^2)\)において、平均\(\mu=0\)、分散\(\sigma^2=1\)の場合の分布です。確率密度関数は、

\(
N(x) = N(x|\mu=0, \sigma^2=1) = \frac{1}{\sqrt{2\pi}}\exp \left (-\frac{x^2}{2}\right )
\)

であり、グラフは図1に示した通りです。

図1 標準正規分布

正規分布

 正規分布はガウス分布といわれ、以下の確率密度関数で表される分布です。

\(
N(x|\mu, \sigma^2) = \frac{1}{\sqrt{2\pi}\sigma}\exp \left \{-\frac{(x – \mu)^2}{2\sigma^2}\right \}
\)

ここで、平均\(\mu\)と、分散\(\sigma^2\)はパラメータなので、引数として与える必要があります。確率密度関数の例を図2に幾つか示しました。

図2 様々な正規分布の例

標準正規分布が正規分布の特別な場合と考えるべきですが、今回は標準正規分布の広がりを変化させたり平行移動させたりした分布が正規分布であるという、逆説的な考え方で議論を進めていきます。

標準正規分布の確率密度関数から正規分布の確率密度関数を導出する

 ここでは、期待値と分散の3つの性質を使用するので、

を先に読んでいただけると、理解が進むと思います。証明はしませんが、期待値と分散の3つの性質を示しておきます。

定数を\(c\)として期待値の3つの性質は

\(E = c, E[x + c] = E[x] + c, E[cx] = cE[x]\)

分散の3つの性質は

\(V = 0, V[x + c] = V[x], V[cx] = c^2V[x]\)

です。それでは、正規分布の確率密度関数を導出していきます。

まず、標準正規分布に従う確率変数\(x\)とします。このとき、以下が成り立ちます。

\(E[x] = 0, V[x] = 1\)

次に、正規分布\(N(\mu, \sigma^2)\)に従う確率変数を\(x’\)とします。ここで、\(x’\)の分布は\(x\)の分布の広がりを\(a\)倍し、\(b\)だけ平行移動したものと考えらるので、

\(x’ = ax + b\)

と定めます。このとき、期待値と分散は

\(\begin{eqnarray}
E[x’] &=& E[ax + b] = aE[x] + b = b\\
V[x’] &=& V[ax + b] = a^2V[x] = a^2
\end{eqnarray}\)

と計算できます。また、仮定より、

\(E[x’] = \mu, V[x’] = \sigma^2\)

でなければならないため、両式を比較して、\(a = \sigma、b = \mu\)と求まります。従って、

\(x’ = \sigma x + \mu\)

なる変換を施すことで、正規分布が求まることが分かりました。上式を\(x\)について解き、標準正規分布の式に代入していきます。

\(\frac{1}{\sqrt{2\pi}}\exp\left\{-\frac{\left (\frac{x’ – \mu}{\sigma}\right )^2}{2}\right\}\)

この式は、まだ完全ではなくて、確率密度関数の重要な性質である積分結果が1であることを満たしていません。そのため、上式を\( (-\infty, \infty)\)で積分したときの値\(\sigma\)で正規化します。

\(
N(x’|\mu, \sigma^2) = \frac{1}{\sqrt{2\pi}\sigma}\exp \left \{-\frac{(x’ – \mu)^2}{2\sigma^2}\right \}
\)

最後に、\(x’\)を\(x\)に置き換えることで、最初に示した正規分布の確率密度関数\(N(x|\mu, \sigma^2)\)

\(
N(x|\mu, \sigma^2) = \frac{1}{\sqrt{2\pi}\sigma}\exp \left \{-\frac{(x – \mu)^2}{2\sigma^2}\right \}
\)

が求まりました。

今後

次は、正規分布の確率密度関数から多変量正規分布の確率密度関数を導いていきたいと思います。

Follow me!

標準正規分布から正規分布へ” に対して1件のコメントがあります。

コメントを残す