二項分布の期待値・分散の公式の証明

証明する内容

$1$ 回の試行で事象 $A$ が起こる確率が $p$ であるとします(このとき $A$ が起こらない確率は $1-p$ です)。この試行を独立に $n$ 回繰り返すとき、事象 $A$ が起こる回数を $X$ とします。この $X$ は、$k=0,1,2,\ldots,n$ のそれぞれの値を、

$ P(X=k) = \binom{n}{k}p^k(1-p)^{n-k} $

という確率でとります。この確率分布を、パラメータ $n, p$ の二項分布と呼びます。

このとき、$X$ の期待値 $E[X]$ と分散 $V[X]$ について、次の公式が成り立ちます。

$ E[X] = np, \qquad V[X] = np(1-p) $

これから、この2つの公式を、期待値・分散の定義に基づいて直接計算することで証明します。

証明

準備1: 期待値と分散の定義を確認する

確率変数 $X$ が $k=0,1,\ldots,n$ の値を確率 $P(X=k)$ でとるとき、期待値は

$ E[X] = \sum_{k=0}^{n} k\,P(X=k) $

と定義されます。また、分散は

$ V[X] = E\left[(X-E[X])^2\right] $

と定義されます。この分散の定義は、そのままでは計算がしにくいので、まず計算しやすい形に変形しておきます。$E[X]$ は定数なので、これを $m$ と書くことにすると、

$ V[X] = E\left[(X-m)^2\right] = E\left[X^2 - 2mX + m^2\right] $

ここで、期待値には和を分配できる性質(期待値の線形性)があるので、

$ E[X^2-2mX+m^2] = E[X^2] - 2mE[X] + m^2 $

となります。$E[X]=m$ であることを使うと、

$ E[X^2] - 2m\cdot m + m^2 = E[X^2] - 2m^2+m^2 = E[X^2]-m^2 $

したがって、

$ V[X] = E[X^2] - (E[X])^2 $

という、扱いやすい形が得られました。これを使って分散を計算することにします。

準備2: 2つの組み合わせの等式を用意する

計算の途中で使うため、2つの等式を先に用意しておきます。これらはどちらも、組み合わせの数 $\binom{n}{k} = \dfrac{n!}{k!(n-k)!}$ の定義に戻って計算すれば確かめられます。

等式1: $k=1,2,\ldots,n$ のとき、

$ k\binom{n}{k} = n\binom{n-1}{k-1} $

これを確かめます。左辺を定義通りに書くと、

$ k\binom{n}{k} = k\cdot\frac{n!}{k!(n-k)!} = \frac{n!}{(k-1)!(n-k)!} $

(ここで、$k$ と $k!=k\cdot(k-1)!$ の $k$ が約分されて $(k-1)!$ が残ることを使いました。)

一方、右辺は、

$ n\binom{n-1}{k-1} = n\cdot\frac{(n-1)!}{(k-1)!\{(n-1)-(k-1)\}!} = \frac{n\cdot(n-1)!}{(k-1)!(n-k)!} = \frac{n!}{(k-1)!(n-k)!} $

(ここで $n\cdot(n-1)!=n!$ を使いました。)左辺と右辺が一致したので、等式1が確かめられました。

等式2: $k=2,3,\ldots,n$ のとき、

$ k(k-1)\binom{n}{k} = n(n-1)\binom{n-2}{k-2} $

左辺を定義通りに書くと、

$ k(k-1)\binom{n}{k} = k(k-1)\cdot\frac{n!}{k!(n-k)!} = \frac{n!}{(k-2)!(n-k)!} $

(ここで $k!=k(k-1)(k-2)!$ なので、$k(k-1)$ と約分されて $(k-2)!$ が残ります。)

一方、右辺は、

$ n(n-1)\binom{n-2}{k-2} = n(n-1)\cdot\frac{(n-2)!}{(k-2)!\{(n-2)-(k-2)\}!} = \frac{n(n-1)(n-2)!}{(k-2)!(n-k)!} = \frac{n!}{(k-2)!(n-k)!} $

(ここで $n(n-1)(n-2)!=n!$ を使いました。)左辺と右辺が一致したので、等式2も確かめられました。

ステップ1: $E[X]=np$ を証明する

期待値の定義に、$P(X=k)=\binom{n}{k}p^k(1-p)^{n-k}$ を代入します。

$ E[X] = \sum_{k=0}^{n} k\binom{n}{k}p^k(1-p)^{n-k} $

この和の $k=0$ の項は、係数が $k=0$ なので $0$ です。したがって、和は実質的に $k=1$ から始まると考えてよく、

$ E[X] = \sum_{k=1}^{n} k\binom{n}{k}p^k(1-p)^{n-k} $

ここで、等式1 $k\binom{n}{k}=n\binom{n-1}{k-1}$ を代入します。

$ E[X] = \sum_{k=1}^{n} n\binom{n-1}{k-1}p^k(1-p)^{n-k} $

$n$ は $k$ に無関係な定数なので、和の外に出せます。また、$p^k = p\cdot p^{k-1}$ と書き直すと、$p$ も外に出せます。

$ E[X] = np\sum_{k=1}^{n} \binom{n-1}{k-1}p^{k-1}(1-p)^{n-k} $

ここで、和の添字を $j=k-1$ に置き換えます。$k$ が $1$ から $n$ まで動くとき、$j$ は $0$ から $n-1$ まで動きます。また、指数の $n-k$ は $n-(j+1)=(n-1)-j$ と書き直せます。

$ E[X] = np\sum_{j=0}^{n-1} \binom{n-1}{j}p^{j}(1-p)^{(n-1)-j} $

この和の部分に注目します。これは、$\binom{n-1}{j}p^j(1-p)^{(n-1)-j}$ を $j=0$ から $j=n-1$ まで足したものであり、二項定理

$ (x+y)^m = \sum_{j=0}^{m} \binom{m}{j}x^jy^{m-j} $

において $m=n-1$, $x=p$, $y=1-p$ とした場合そのものです。したがって、この和は

$ \sum_{j=0}^{n-1} \binom{n-1}{j}p^{j}(1-p)^{(n-1)-j} = (p+(1-p))^{n-1} = 1^{n-1} = 1 $

となります。よって、

$ E[X] = np\cdot 1 = np $

が示されました。

ステップ2: $E[X(X-1)]$ を計算する

次に、分散を求める準備として、$E[X(X-1)]$、つまり $E[X^2-X]$ を計算します。定義から、

$ E[X(X-1)] = \sum_{k=0}^{n} k(k-1)\binom{n}{k}p^k(1-p)^{n-k} $

この和のうち、$k=0$ の項は $k(k-1)=0\cdot(-1)=0$ で消え、$k=1$ の項も $k(k-1)=1\cdot 0=0$ で消えます。したがって、和は実質的に $k=2$ から始まり、

$ E[X(X-1)] = \sum_{k=2}^{n} k(k-1)\binom{n}{k}p^k(1-p)^{n-k} $

ここで、等式2 $k(k-1)\binom{n}{k}=n(n-1)\binom{n-2}{k-2}$ を代入します。

$ E[X(X-1)] = \sum_{k=2}^{n} n(n-1)\binom{n-2}{k-2}p^k(1-p)^{n-k} $

$n(n-1)$ は定数なので外に出し、$p^k=p^2\cdot p^{k-2}$ と書いて $p^2$ も外に出します。

$ E[X(X-1)] = n(n-1)p^2\sum_{k=2}^{n} \binom{n-2}{k-2}p^{k-2}(1-p)^{n-k} $

添字を $j=k-2$ に置き換えます。$k$ が $2$ から $n$ まで動くとき、$j$ は $0$ から $n-2$ まで動き、指数 $n-k$ は $(n-2)-j$ と書けます。

$ E[X(X-1)] = n(n-1)p^2\sum_{j=0}^{n-2} \binom{n-2}{j}p^{j}(1-p)^{(n-2)-j} $

ステップ1と同様に、この和は二項定理により $(p+(1-p))^{n-2}=1$ となります。したがって、

$ E[X(X-1)] = n(n-1)p^2 $

が得られました。

ステップ3: $E[X^2]$ を求める

$E[X(X-1)] = E[X^2-X] = E[X^2]-E[X]$ という関係(期待値の線形性)を使うと、

$ E[X^2] = E[X(X-1)] + E[X] = n(n-1)p^2 + np $

となります。

ステップ4: $V[X]=np(1-p)$ を証明する

準備1で確認した公式 $V[X]=E[X^2]-(E[X])^2$ に、ステップ1とステップ3で求めた値を代入します。

$ V[X] = \left\{n(n-1)p^2+np\right\} - (np)^2 $

右辺を展開して整理します。まず $(np)^2=n^2p^2$ です。また $n(n-1)p^2 = n^2p^2 - np^2$ と展開できます。これらを代入すると、

$ V[X] = \left(n^2p^2 - np^2 + np\right) - n^2p^2 $

$n^2p^2$ どうしが打ち消し合って、

$ V[X] = -np^2+np = np(1-p) $

となります。したがって、

$ V[X] = np(1-p) $

が示されました。

この証明のポイント

$k\binom{n}{k}=n\binom{n-1}{k-1}$ のように、和の中の係数を「1つ次数の低い二項係数」に書き換えることで、残りの和をそのまま二項定理 $\sum \binom{m}{j}p^j(1-p)^{m-j}=(p+(1-p))^m=1$ の形に帰着させる、という発想がこの証明の核心です。また、分散を直接 $E[(X-E[X])^2]$ から計算するのではなく、$V[X]=E[X^2]-(E[X])^2$ という扱いやすい形に変形してから、さらに $E[X(X-1)]$ を経由して $E[X^2]$ を求めるという迂回路を使う点も、確率変数の計算でよく使われるテクニックです。