⟐ 数学の作り方 How to make Mathematics

第4章 収束の諸相

前章の終わりで Xˉn→μ\bar X_n\to\mu と書きました。しかし XnX_n は数ではなく関数（確率変数）。関数列が 「近づく」には、測度論の第8章で見たとおり、いくつもの意味があります。確率論でも同じ問題が起き、 どの意味で収束するかで定理の強さが変わります。まずこの「近づき方の地図」を手に入れましょう。

四つの「近づく」

Xn→XX_n\to X（確率変数の列がある確率変数へ）に、次の四つの意味があります。

定義 収束の四つの様式

  1. 概収束（ほとんど確実な収束、a.s.）：P({ω:Xn(ω)→X(ω)})=1P\big(\{\omega : X_n(\omega)\to X(\omega)\}\big)=1。 「例外の ω\omega は確率 00 の集まりしかない」。各見本の道すじがほぼ確実に収束。記号 Xn→a.s.XX_n\xrightarrow{a.s.}X。
  2. 確率収束：任意の ε>0\varepsilon>0 に対し P(∣Xn−X∣≥ε)→0P(|X_n-X|\ge\varepsilon)\to 0。 「nn を大きくすれば、XX から ε\varepsilon 以上ずれる確率がいくらでも小さくなる」。記号 Xn→PXX_n\xrightarrow{P}X。
  3. LpL^p 収束：E[∣Xn−X∣p]→0\mathbb{E}[|X_n-X|^p]\to 0。平均的なずれ（の pp 乗）が消える。p=2p=2 なら二乗平均収束。
  4. 分布収束（法則収束、weak）：分布関数が FXn(x)→FX(x)F_{X_n}(x)\to F_X(x)（FXF_X の連続点で）。 XnX_n 自身ではなく、その分布の形が近づく。記号 Xn→dXX_n\xrightarrow{d}X。

違いを一言で。概収束は「ほぼすべての見本の軌道が収束」、確率収束は「ずれる確率が消える」、 LpL^p は「平均的なずれが消える」、分布収束は「分布の形が近づく」。だんだん要求がゆるくなります。

強弱の地図

これらは互いに独立ではなく、はっきりした階層をなします。

定理 含意関係

Xn→a.s.X ⟹ Xn→PX ⟹ Xn→dX,Xn→LpX ⟹ Xn→PX.X_n\xrightarrow{a.s.}X \ \Longrightarrow\ X_n\xrightarrow{P}X \ \Longrightarrow\ X_n\xrightarrow{d}X, \qquad X_n\xrightarrow{L^p}X \ \Longrightarrow\ X_n\xrightarrow{P}X.

逆向きは一般に成り立たない。ただし極限が定数のときは →d⇒→P\xrightarrow{d}\Rightarrow\xrightarrow{P} も成り立つ。

要になるのは真ん中の確率収束——概収束からも LpL^p からも降りてこられる合流点で、そこから分布収束へ抜ける。 証明の勘所だけ：

  • 概収束 ⇒ 確率収束：概収束は「ある時点以降ずっと近い」。ずれる事象を nn について並べると測度が 00 に。 (測度論の収束の諸相と同じ論法。有限測度なのでエゴロフも使える。)
  • LpL^p ⇒ 確率収束：チェビシェフ型。P(∣Xn−X∣≥ε)=P(∣Xn−X∣p≥εp)≤E[∣Xn−X∣p]/εp→0P(|X_n-X|\ge\varepsilon)=P(|X_n-X|^p\ge\varepsilon^p)\le \mathbb{E}[|X_n-X|^p]/\varepsilon^p\to0。 第3章のマルコフ不等式がそのまま橋になります。
  • 確率収束 ⇒ 分布収束：ずれる確率が消えれば分布関数も近づく。

逆が偽な例も押さえると地図が立体になります。確率収束するが概収束しない：区間 [0,1][0,1] 上で 「幅が縮みながら位置をずらして走り回る指示関数」（歩き回るこぶ）。各 ω\omega は何度でも 11 に叩かれるので 軌道は収束しない（概収束✗）が、11 になる幅は 00 へ縮むので確率収束はする。分布収束するが確率収束しない： X∼N(0,1)X\sim N(0,1) と Xn=−XX_n=-X。分布は同じ N(0,1)N(0,1) だから Xn→dXX_n\xrightarrow{d}X だが、∣Xn−X∣=2∣X∣|X_n-X|=2|X| は消えない。 ——だから極限が「特定の確率変数」でなく「形」しか言えないのが分布収束、と腑に落ちます。

ボレル–カンテリ：概収束をつかむ道具

概収束は「軌道がほぼ確実に収束」——扱いが一番むずかしい。これを可算和の言葉で捉えるのが、 シンプルながら絶大な威力を持つボレル–カンテリの補題です。舞台は「事象 AnA_n が無限回起こる」事象、 {An i.o.}=⋂N⋃n≥NAn\{A_n \text{ i.o.}\}=\bigcap_{N}\bigcup_{n\ge N}A_n（どれだけ先を見てもまだ AnA_n が起こる）。

定理 ボレル–カンテリの補題

（第一） ∑n=1∞P(An)<∞\displaystyle\sum_{n=1}^\infty P(A_n)<\infty ならば P(An が無限回起こる)=0P(A_n \text{ が無限回起こる})=0。
（第二） AnA_n が独立で ∑n=1∞P(An)=∞\displaystyle\sum_{n=1}^\infty P(A_n)=\infty ならば P(An が無限回起こる)=1P(A_n \text{ が無限回起こる})=1。

証明

第一。 {An i.o.}⊂⋃n≥NAn\{A_n \text{ i.o.}\}\subset \bigcup_{n\ge N}A_n が任意の NN で成り立つ。単調性と劣加法性より P(An i.o.)≤∑n≥NP(An)P(A_n \text{ i.o.})\le \sum_{n\ge N}P(A_n)。右辺は収束級数の尾なので N→∞N\to\infty で 00。ゆえに確率 00。
第二。 補事象を見る。独立性より、任意の N≤MN\le M で P(⋂n=NMAnc)=∏n=NM(1−P(An))≤∏exp⁡(−P(An))=exp⁡(−∑n=NMP(An))P\big(\bigcap_{n=N}^M A_n^c\big)=\prod_{n=N}^M(1-P(A_n))\le \prod \exp(-P(A_n))=\exp\big(-\sum_{n=N}^M P(A_n)\big) （1−x≤e−x1-x\le e^{-x} を使った）。総和が発散するので M→∞M\to\infty でこれは 00。よって「NN 以降どれも起きない」確率は 00、 どんな NN でもいずれまた起こる＝無限回起こる確率 11。

「確率の総和が有限なら、いつかは起こらなくなる（有限回で打ち止め）」——これが第一補題の心。 たとえば P(∣Xn∣≥ε)P(|X_n|\ge\varepsilon) の総和が有限なら、∣Xn∣≥ε|X_n|\ge\varepsilon は有限回しか起きず、Xn→0X_n\to 0 が 概収束で言えます。確率収束（各 nn で小さい）と概収束（軌道が収束）の間を埋める橋が、まさにこの 「総和が有限か」という一点。次章の強大数の法則は、この橋を渡って証明されます。

注意 なぜ第二では独立が要るのか

第一補題に独立性は要りません（劣加法性だけ）。第二では独立が本質的：An=AA_n=A（同じ事象の繰り返し、P(A)=1/2P(A)=1/2）なら 総和は発散するのに「無限回」の確率は 1/21/2 で、11 になりません。独立という「毎回チャンスが独立に来る」構造があって 初めて「発散するほどチャンスがあれば必ず当たる」が言えます。

この章のまとめ

  • 確率変数の収束には概収束・確率収束・LpL^p収束・分布収束の四様式。強さは a.s.⇒P⇒da.s.\Rightarrow P\Rightarrow d、Lp⇒PL^p\Rightarrow P。合流点は確率収束、逆は一般に偽（歩き回るこぶ／Xn=−XX_n=-X）。
  • Lp⇒PL^p\Rightarrow P は第3章のマルコフ不等式が橋。極限が定数なら分布収束から確率収束へ戻れる。
  • ボレル–カンテリ：確率の総和が有限なら事象は有限回で止む（第一）／独立で発散なら無限回起こる（第二）。 これが確率収束と概収束の間を埋め、強大数の法則への鍵になる。

次章、いよいよ第一の大定理——大数の法則。「たくさん試せば平均は真の値に近づく」を、弱・強の二段で証明します。