⟐ 数学の作り方 How to make Mathematics

↑ ↓ 移動 Enter 開く Esc 閉じる

第6章 中心極限定理

身長、測定誤差、テストの点、株価の揺れ——世の中は釣鐘型(正規分布)であふれています。なぜ、 これほど違う現象が、そろって同じ形になるのか。答えが、確率論のもっとも美しい定理 中心極限定理(CLT)です。前章で「割合は μ\mu に収束する」を見ました。今度は、消えていく 差 Sn−nμS_n-n\mu を n\sqrt{n} で拡大して覗きます。すると——元がどんな分布でも、必ず正規分布が現れます。

まず現象を見る:元の形を忘れる

独立同分布な nn 個の和を標準化した Zn=Sn−nμσnZ_n=\dfrac{S_n-n\mu}{\sigma\sqrt{n}} の分布を、nn を変えながら見てみましょう。

一様分布(平ら)、コイン(22 本の棒)、指数分布(大きく右に歪む)——出発点はまるで違います。 なのに nn を増やすと、どれも同じ標準正規 N(0,1)N(0,1) の釣鐘(朱)に吸い寄せられる。特に歪んだ指数分布が、 たった数十個の和で釣鐘化するのは劇的です。元の分布の個性が、足し合わせると消えてしまう。 この普遍性こそ CLT の核心で、「世界が釣鐘だらけ」な理由です。多くの現象が「小さな独立要因の足し算」だから。

なぜ n\sqrt{n} で割るのか。Sn−nμS_n-n\mu の分散は nσ2n\sigma^2、標準偏差は σn\sigma\sqrt{n} で広がっていく。 これを σn\sigma\sqrt{n} で割ってちょうど分散 11 に正規化すると、形が安定する。大数の法則は SnS_n を nn で割って 一点 μ\mu に潰した。CLT は n\sqrt{n} で割って潰れる直前の形を捉える——両者は同じ和を違う倍率で見た姉妹です。

道具:特性関数(分布のフーリエ変換)

証明の鍵は、第2章で予告した「和はたたみ込み、変換すれば積」という発想。分布に施す変換が特性関数です。

定義 特性関数

確率変数 XX の特性関数を

φX(t)=E[eitX]=∫−∞∞eitx dPX(x)\varphi_X(t)=\mathbb{E}\big[e^{itX}\big]=\int_{-\infty}^{\infty} e^{itx}\,dP_X(x)

と定める。これは分布 PXP_X のフーリエ変換に他ならない。

特性関数が主役なのは、三つの美点ゆえです。

  • 積に化ける:X,YX,Y 独立なら φX+Y(t)=E[eit(X+Y)]=E[eitX]E[eitY]=φX(t)φY(t)\varphi_{X+Y}(t)=\mathbb{E}[e^{it(X+Y)}]=\mathbb{E}[e^{itX}]\mathbb{E}[e^{itY}]=\varphi_X(t)\varphi_Y(t)。 たたみ込み(和の分布)が掛け算になる。「nn 個の和」が「nn 乗」になり、扱いが劇的に楽に。
  • 分布を一意に決める:φX=φY⇒\varphi_X=\varphi_Y \Rightarrow 分布が一致(フーリエ変換の単射性)。φ\varphi を調べれば分布が分かる。
  • モーメントが微分で出る:φX′(0)=iE[X]\varphi_X'(0)=i\mathbb{E}[X]、φX′′(0)=−E[X2]\varphi_X''(0)=-\mathbb{E}[X^2]。だから 平均 00・分散 11 の XX は、00 の近くで φX(t)=1+it E[X]−t22E[X2]+o(t2)=1−t22+o(t2).\varphi_X(t)=1+it\,\mathbb{E}[X]-\tfrac{t^2}{2}\mathbb{E}[X^2]+o(t^2)=1-\tfrac{t^2}{2}+o(t^2). この二次のテイラー展開が、証明の全体重を支えます。

そして「特性関数が近づけば分布も近づく」を保証するのが、フーリエ解析の連続性そのもの:

定理 レヴィの連続性定理

φXn(t)→φ(t)\varphi_{X_n}(t)\to\varphi(t) が各 tt で成り立ち、φ\varphi が t=0t=0 で連続なら、φ\varphi はある分布の特性関数で、 Xn→dXX_n\xrightarrow{d}X(分布収束)。逆も成り立つ。

これで戦略が決まりました。ZnZ_n の特性関数が、N(0,1)N(0,1) の特性関数 e−t2/2e^{-t^2/2} に収束することを示せばよい。

証明:e−t2/2e^{-t^2/2} へ収束させる

定理 中心極限定理(CLT)

X1,X2,…X_1,X_2,\dots が独立同分布、平均 μ\mu・分散 σ2∈(0,∞)\sigma^2\in(0,\infty) をもつとする。このとき

Zn=Sn−nμσn=Xˉn−μσ/n →d N(0,1).Z_n=\frac{S_n-n\mu}{\sigma\sqrt{n}}=\frac{\bar X_n-\mu}{\sigma/\sqrt{n}}\ \xrightarrow{d}\ N(0,1).

すなわち任意の zz で P(Zn≤z)→Φ(z)=∫−∞z12πe−u2/2 duP(Z_n\le z)\to \Phi(z)=\displaystyle\int_{-\infty}^{z}\frac{1}{\sqrt{2\pi}}e^{-u^2/2}\,du。

証明

Yi=Xi−μσY_i=\dfrac{X_i-\mu}{\sigma} と標準化する(平均 00・分散 11・独立同分布)。すると Zn=1n∑i=1nYiZ_n=\dfrac{1}{\sqrt{n}}\sum_{i=1}^n Y_i。特性関数は「独立和は積」「定数倍は φ(ct)\varphi(ct)」より

φZn(t)=[φY ⁣(tn)]n.\varphi_{Z_n}(t)=\Big[\varphi_Y\!\Big(\tfrac{t}{\sqrt{n}}\Big)\Big]^{n}.

YY は平均 00・分散 11 だから、00 の近くで φY(s)=1−s22+o(s2)\varphi_Y(s)=1-\tfrac{s^2}{2}+o(s^2)。s=t/ns=t/\sqrt{n} を代入すると

φY ⁣(tn)=1−t22n+o ⁣(1n).\varphi_Y\!\Big(\tfrac{t}{\sqrt{n}}\Big)=1-\frac{t^2}{2n}+o\!\Big(\frac{1}{n}\Big).

これを nn 乗する。(1+ann)n→ea\big(1+\tfrac{a_n}{n}\big)^n\to e^{a}(an→aa_n\to a)という指数極限を、an=−t22+o(1)a_n=-\tfrac{t^2}{2}+o(1) に使えば

φZn(t)=[1−t22n+o ⁣(1n)]n →n→∞ e−t2/2.\varphi_{Z_n}(t)=\Big[1-\frac{t^2}{2n}+o\!\big(\tfrac1n\big)\Big]^{n}\ \xrightarrow[n\to\infty]{}\ e^{-t^2/2}.

右辺 e−t2/2e^{-t^2/2} はまさに N(0,1)N(0,1) の特性関数。レヴィの連続性定理より Zn→dN(0,1)Z_n\xrightarrow{d}N(0,1)。

証明の魔法は一点に尽きます。元の分布 φY\varphi_Y の細かい情報(三次以降)は o(s2)o(s^2) に呑まれて消え、 効くのは平均 00・分散 11 という二つの数だけ。 だから出発点がどんな形でも行き先は同じ e−t2/2e^{-t^2/2}。 実演で「元の個性が消える」と見たものの正体が、この二次展開だったわけです。全体重が φY(s)=1−s2/2+…\varphi_Y(s)=1-s^2/2+\dots に載っていた——美しいほど単純です。

何が言えるようになったか

CLT は理論の華であると同時に、統計学の心臓です。標準偏差 σ/n\sigma/\sqrt{n} を思い出すと、CLT は 「標本平均 Xˉn\bar X_n は、真の値 μ\mu を中心に幅 σ/n\sigma/\sqrt{n} の正規分布でばらつく」と言っています。 分布の形が正規と分かるからこそ、「95%95\% の確率でこの区間に入る」という信頼区間が計算でき(第11章)、 測定誤差の見積り、n\sqrt{n} 則によるモンテカルロ誤差評価、品質管理の管理図——応用は数え切れません。

注意 つまずきポイント

  • CLT は Xˉn\bar X_n が正規に「なる」ではなく、標準化 ZnZ_n が正規に「近づく」。 有限の nn では近似。 近似の速さは元の歪みで変わる(歪んだ指数は遅い=実演どおり)。誤差の定量版がベリー–エッセーンの定理。
  • 独立性と有限分散が命。 従属が強いと成り立たない。分散が無限(裾が重い)だと正規でなく安定分布へ収束する (一般化中心極限定理)。「何でも正規」ではない。
  • 大数の法則と役割が違う。 大数は Xˉn→μ\bar X_n\to\mu(一点へ収束)、CLT はその収束の揺らぎの形(n\sqrt{n} 拡大で釣鐘)。 同じ和を、nn で割るか n\sqrt{n} で割るかの違い。

この章のまとめ

  • 中心極限定理:独立同分布・分散有限なら、標準化した和 Zn=(Sn−nμ)/(σn)Z_n=(S_n-n\mu)/(\sigma\sqrt n) は元の分布によらず N(0,1)N(0,1) へ分布収束。
  • 道具は特性関数(分布のフーリエ変換):独立和が積に化け、分布を一意に決め、モーメントが微分で出る。 近さを分布収束へ翻訳するのがレヴィの連続性定理。
  • 証明の核は φY(s)=1−s2/2+o(s2)\varphi_Y(s)=1-s^2/2+o(s^2) を nn 乗し e−t2/2e^{-t^2/2} へ。平均と分散だけが効き、元の個性は消える。 これが信頼区間・誤差評価(第11章)の理論的土台。

ここまでで独立和の理論は完成です。次章からは時間とともに情報が増える世界へ——条件付き期待値を再定義し、 マルチンゲール、そしてブラウン運動という確率過程の本流に入ります。