数学の作り方 How to make Mathematics

第6章 中心極限定理

身長、測定誤差、テストの点、株価の揺れ——世の中は釣鐘型(正規分布)であふれています。なぜ、 これほど違う現象が、そろって同じ形になるのか。答えが、確率論のもっとも美しい定理 中心極限定理(CLT)です。前章で「割合は μ\mu に収束する」を見ました。今度は、消えていく SnnμS_n-n\mun\sqrt{n} で拡大して覗きます。すると——元がどんな分布でも、必ず正規分布が現れます。

まず現象を見る:元の形を忘れる

独立同分布な nn 個の和を標準化した Zn=SnnμσnZ_n=\dfrac{S_n-n\mu}{\sigma\sqrt{n}} の分布を、nn を変えながら見てみましょう。

一様分布(平ら)、コイン(22 本の棒)、指数分布(大きく右に歪む)——出発点はまるで違います。 なのに nn を増やすと、どれも同じ標準正規 N(0,1)N(0,1) の釣鐘(朱)に吸い寄せられる。特に歪んだ指数分布が、 たった数十個の和で釣鐘化するのは劇的です。元の分布の個性が、足し合わせると消えてしまう。 この普遍性こそ CLT の核心で、「世界が釣鐘だらけ」な理由です。多くの現象が「小さな独立要因の足し算」だから。

なぜ n\sqrt{n} で割るのか。SnnμS_n-n\mu の分散は nσ2n\sigma^2、標準偏差は σn\sigma\sqrt{n}広がっていく。 これを σn\sigma\sqrt{n} で割ってちょうど分散 11 に正規化すると、形が安定する。大数の法則は SnS_nnn で割って 一点 μ\mu に潰した。CLT は n\sqrt{n} で割って潰れる直前の形を捉える——両者は同じ和を違う倍率で見た姉妹です。

道具:特性関数(分布のフーリエ変換)

証明の鍵は、第2章で予告した「和はたたみ込み、変換すれば積」という発想。分布に施す変換が特性関数です。

定義 特性関数

確率変数 XX特性関数

φX(t)=E[eitX]=eitxdPX(x)\varphi_X(t)=\mathbb{E}\big[e^{itX}\big]=\int_{-\infty}^{\infty} e^{itx}\,dP_X(x)

と定める。これは分布 PXP_Xフーリエ変換に他ならない。

特性関数が主役なのは、三つの美点ゆえです。

  • 積に化けるX,YX,Y 独立なら φX+Y(t)=E[eit(X+Y)]=E[eitX]E[eitY]=φX(t)φY(t)\varphi_{X+Y}(t)=\mathbb{E}[e^{it(X+Y)}]=\mathbb{E}[e^{itX}]\mathbb{E}[e^{itY}]=\varphi_X(t)\varphi_Y(t)。 たたみ込み(和の分布)が掛け算になる。「nn 個の和」が「nn 乗」になり、扱いが劇的に楽に。
  • 分布を一意に決めるφX=φY\varphi_X=\varphi_Y \Rightarrow 分布が一致(フーリエ変換の単射性)。φ\varphi を調べれば分布が分かる。
  • モーメントが微分で出るφX(0)=iE[X]\varphi_X'(0)=i\mathbb{E}[X]φX(0)=E[X2]\varphi_X''(0)=-\mathbb{E}[X^2]。だから 平均 00・分散 11XX は、00 の近くで φX(t)=1+itE[X]t22E[X2]+o(t2)=1t22+o(t2).\varphi_X(t)=1+it\,\mathbb{E}[X]-\tfrac{t^2}{2}\mathbb{E}[X^2]+o(t^2)=1-\tfrac{t^2}{2}+o(t^2). この二次のテイラー展開が、証明の全体重を支えます。

そして「特性関数が近づけば分布も近づく」を保証するのが、フーリエ解析の連続性そのもの:

定理 レヴィの連続性定理

φXn(t)φ(t)\varphi_{X_n}(t)\to\varphi(t) が各 tt で成り立ち、φ\varphit=0t=0 で連続なら、φ\varphi はある分布の特性関数で、 XndXX_n\xrightarrow{d}X(分布収束)。逆も成り立つ。

これで戦略が決まりました。ZnZ_n の特性関数が、N(0,1)N(0,1) の特性関数 et2/2e^{-t^2/2} に収束することを示せばよい。

証明:et2/2e^{-t^2/2} へ収束させる

定理 中心極限定理(CLT)

X1,X2,X_1,X_2,\dots が独立同分布、平均 μ\mu・分散 σ2(0,)\sigma^2\in(0,\infty) をもつとする。このとき

Zn=Snnμσn=Xˉnμσ/n d N(0,1).Z_n=\frac{S_n-n\mu}{\sigma\sqrt{n}}=\frac{\bar X_n-\mu}{\sigma/\sqrt{n}}\ \xrightarrow{d}\ N(0,1).

すなわち任意の zzP(Znz)Φ(z)=z12πeu2/2duP(Z_n\le z)\to \Phi(z)=\displaystyle\int_{-\infty}^{z}\frac{1}{\sqrt{2\pi}}e^{-u^2/2}\,du

証明

Yi=XiμσY_i=\dfrac{X_i-\mu}{\sigma} と標準化する(平均 00・分散 11・独立同分布)。すると Zn=1ni=1nYiZ_n=\dfrac{1}{\sqrt{n}}\sum_{i=1}^n Y_i。特性関数は「独立和は積」「定数倍は φ(ct)\varphi(ct)」より

φZn(t)=[φY ⁣(tn)]n.\varphi_{Z_n}(t)=\Big[\varphi_Y\!\Big(\tfrac{t}{\sqrt{n}}\Big)\Big]^{n}.

YY は平均 00・分散 11 だから、00 の近くで φY(s)=1s22+o(s2)\varphi_Y(s)=1-\tfrac{s^2}{2}+o(s^2)s=t/ns=t/\sqrt{n} を代入すると

φY ⁣(tn)=1t22n+o ⁣(1n).\varphi_Y\!\Big(\tfrac{t}{\sqrt{n}}\Big)=1-\frac{t^2}{2n}+o\!\Big(\frac{1}{n}\Big).

これを nn 乗する。(1+ann)nea\big(1+\tfrac{a_n}{n}\big)^n\to e^{a}anaa_n\to a)という指数極限を、an=t22+o(1)a_n=-\tfrac{t^2}{2}+o(1) に使えば

φZn(t)=[1t22n+o ⁣(1n)]n n et2/2.\varphi_{Z_n}(t)=\Big[1-\frac{t^2}{2n}+o\!\big(\tfrac1n\big)\Big]^{n}\ \xrightarrow[n\to\infty]{}\ e^{-t^2/2}.

右辺 et2/2e^{-t^2/2} はまさに N(0,1)N(0,1) の特性関数。レヴィの連続性定理より ZndN(0,1)Z_n\xrightarrow{d}N(0,1)

証明の魔法は一点に尽きます。元の分布 φY\varphi_Y の細かい情報(三次以降)は o(s2)o(s^2) に呑まれて消え、 効くのは平均 00・分散 11 という二つの数だけ。 だから出発点がどんな形でも行き先は同じ et2/2e^{-t^2/2}。 実演で「元の個性が消える」と見たものの正体が、この二次展開だったわけです。全体重が φY(s)=1s2/2+\varphi_Y(s)=1-s^2/2+\dots に載っていた——美しいほど単純です。

何が言えるようになったか

CLT は理論の華であると同時に、統計学の心臓です。標準偏差 σ/n\sigma/\sqrt{n} を思い出すと、CLT は 「標本平均 Xˉn\bar X_n は、真の値 μ\mu を中心に幅 σ/n\sigma/\sqrt{n}正規分布でばらつく」と言っています。 分布の形が正規と分かるからこそ、「95%95\% の確率でこの区間に入る」という信頼区間が計算でき(第11章)、 測定誤差の見積り、n\sqrt{n} 則によるモンテカルロ誤差評価、品質管理の管理図——応用は数え切れません。

注意 つまずきポイント

  • CLT は Xˉn\bar X_n が正規に「なる」ではなく、標準化 ZnZ_n が正規に「近づく」。 有限の nn では近似。 近似の速さは元の歪みで変わる(歪んだ指数は遅い=実演どおり)。誤差の定量版がベリー–エッセーンの定理。
  • 独立性と有限分散が命。 従属が強いと成り立たない。分散が無限(裾が重い)だと正規でなく安定分布へ収束する (一般化中心極限定理)。「何でも正規」ではない。
  • 大数の法則と役割が違う。 大数は Xˉnμ\bar X_n\to\mu(一点へ収束)、CLT はその収束の揺らぎの形n\sqrt{n} 拡大で釣鐘)。 同じ和を、nn で割るか n\sqrt{n} で割るかの違い。

この章のまとめ

  • 中心極限定理:独立同分布・分散有限なら、標準化した和 Zn=(Snnμ)/(σn)Z_n=(S_n-n\mu)/(\sigma\sqrt n) は元の分布によらず N(0,1)N(0,1) へ分布収束。
  • 道具は特性関数(分布のフーリエ変換):独立和がに化け、分布を一意に決め、モーメントが微分で出る。 近さを分布収束へ翻訳するのがレヴィの連続性定理
  • 証明の核は φY(s)=1s2/2+o(s2)\varphi_Y(s)=1-s^2/2+o(s^2)nn 乗し et2/2e^{-t^2/2} へ。平均と分散だけが効き、元の個性は消える。 これが信頼区間・誤差評価(第11章)の理論的土台。

ここまでで独立和の理論は完成です。次章からは時間とともに情報が増える世界へ——条件付き期待値を再定義し、 マルチンゲール、そしてブラウン運動という確率過程の本流に入ります。