数学の作り方 How to make Mathematics

第7章 条件付き期待値

ここまでは「一発勝負」の確率でした。ここからは時間とともに情報が増えていく世界へ入ります。 サイコロを振っていく途中、「これまでの目を知ったうえで、次の平均はいくつか」を問いたい。その主役が 条件付き期待値。素朴には高校でも習いますが、連続の世界で通用させるには、 測度論的な再定義が必要です。そしてこの再定義が、マルチンゲール(次章)の言葉そのものになります。

素朴な条件付き確率と、その限界

事象 BBP(B)>0P(B)>0)が起きたと分かったときの AA の確率は

P(AB)=P(AB)P(B).P(A\mid B)=\frac{P(A\cap B)}{P(B)}.

BB の世界に舞台を絞り、その中での AA の割合」。条件付き期待値も同様に E[XB]\mathbb{E}[X\mid B] が定まります。

ところが、条件が連続変数だと破綻します。「Y=yY=y が与えられたときの XX の平均 E[XY=y]\mathbb{E}[X\mid Y=y]」を 考えたいのに、連続型では P(Y=y)=0P(Y=y)=000 で割るので上の定義が使えない。第1章の「一点の確率 00」問題が また顔を出すのです。密度を使えば形式的に書けますが、密度が無い場合や、より抽象的な「情報」で条件づけたいときには 足りません。条件付き期待値を、確率 00 の割り算に頼らずに定義し直す必要があります。

発想の転換:σ-加法族 = 「持っている情報」

鍵は視点を変えることです。「YY の値を知っている」とは、具体的にはどんな事象の真偽を判定できるかという 情報量のこと。「Y[a,b]Y\in[a,b] は起きたか?」に答えられる事象全体——これは一つの σ-加法族 G=σ(Y)\mathcal{G}=\sigma(Y) を なします。第1章で σ-加法族を「測れる事象の家族」と呼びましたが、ここでは新しい顔で読み替えます:

σ-加法族 = 手元にある情報の量。 大きい G\mathcal{G} ほど「見分けられる事象」が多い=情報が豊富。

すると「YY を知ったうえでの XX の平均」は「情報 G=σ(Y)\mathcal{G}=\sigma(Y) のもとでの XX の平均」と一般化できます。 求めたいのは、もはや一つの数ではなく、G\mathcal{G} の情報だけで決まる確率変数——G\mathcal{G} を通して見える範囲で XX を一番よく言い当てる予測です。これを二つの性質で特徴づけます。

定義 条件付き期待値(一般定義)

E[X]<\mathbb{E}[|X|]<\infty とし、GF\mathcal{G}\subset\mathcal{F} を部分 σ-加法族とする。条件付き期待値 E[XG]\mathbb{E}[X\mid\mathcal{G}] とは、次の二条件を満たす確率変数 ZZ のこと(Z=E[XG]Z=\mathbb{E}[X\mid\mathcal{G}] と書く):

  1. ZZG\mathcal{G}-可測(= G\mathcal{G} の情報だけで値が決まる)。
  2. 平均の一致:任意の GGG\in\mathcal{G} に対し GZdP=GXdP\displaystyle\int_G Z\,dP=\int_G X\,dP

条件1は「予測は手元の情報だけで作れ」、条件2は「どんな G\mathcal{G}-事象の上でならしても、本物 XX と平均が合う」= 不偏。この二つを満たす ZZ は、確率 11 の違いを除いて一意に存在します。存在の保証は、次の定理そのものです。

存在の正体:ラドン–ニコディム微分=L²射影

なぜ ZZ が存在するのか。二つの見方があり、どちらも既習の大定理に直結します。

測度論の見方(ラドン–ニコディム)。 集合関数 ν(G)=GXdP\nu(G)=\int_G X\,dPGGG\in\mathcal{G})を作ると、これは G\mathcal{G} 上の(符号つき)測度で、PP に関して絶対連続です。ラドン–ニコディムの定理より、 G\mathcal{G}-可測な密度 Z=dνdPZ=\dfrac{d\nu}{dP} が存在する。これがまさに条件2を満たす ZZ条件付き期待値とは、XXG\mathcal{G} 上へ落とした測度のラドン–ニコディム微分なのです。

関数解析の見方(射影)。 XL2X\in L^2 なら、G\mathcal{G}-可測な二乗可積分関数の全体は L2L^2 の閉部分空間 L2(G)L^2(\mathcal{G})関数解析の射影定理より、XX からこの部分空間への直交射影が一意に存在します。それが E[XG]\mathbb{E}[X\mid\mathcal{G}]。つまり条件付き期待値は「持っている情報で作れる予測のうち、XXL2L^2 距離で一番近いもの」= 最良予測。誤差 XE[XG]X-\mathbb{E}[X\mid\mathcal{G}] が情報 G\mathcal{G} と直交する、という第3章の内積の幾何がそのまま生きます。

条件付き期待値 = 「手元の情報 G\mathcal{G}XX を最良近似した予測」。ラドン–ニコディム微分であり、L2L^2 射影。

使いこなす:性質とタワー則

定義から、次が確率 11 で成り立ちます(証明はどれも定義の二条件を確かめるだけ)。

命題 条件付き期待値の性質

  1. 線形性E[aX+bYG]=aE[XG]+bE[YG]\mathbb{E}[aX+bY\mid\mathcal{G}]=a\,\mathbb{E}[X\mid\mathcal{G}]+b\,\mathbb{E}[Y\mid\mathcal{G}]
  2. 既知量は外へYYG\mathcal{G}-可測なら E[YXG]=YE[XG]\mathbb{E}[YX\mid\mathcal{G}]=Y\,\mathbb{E}[X\mid\mathcal{G}]YY は「もう分かって」いるので定数扱い)。
  3. 独立なら消えるXXG\mathcal{G} と独立なら E[XG]=E[X]\mathbb{E}[X\mid\mathcal{G}]=\mathbb{E}[X](情報が無関係なら普通の平均)。
  4. タワー則(積の入れ子)HG\mathcal{H}\subset\mathcal{G} なら E[E[XG]  H]=E[XH]\mathbb{E}\big[\,\mathbb{E}[X\mid\mathcal{G}]\ \big|\ \mathcal{H}\big]=\mathbb{E}[X\mid\mathcal{H}]。 特に H={,Ω}\mathcal{H}=\{\varnothing,\Omega\}(情報ゼロ)で E[E[XG]]=E[X]\mathbb{E}\big[\mathbb{E}[X\mid\mathcal{G}]\big]=\mathbb{E}[X]

主役はタワー則です。心は「粗い情報での平均は、細かい情報で平均してからもう一度粗く平均しても同じ」。 段階的に情報を明かしていくとき、途中でならしても最後にならしても答えは変わらない——これが次章のマルチンゲール (「今の最良予測」が時間で繋がる列)の背骨になります。特に最後の系「条件付き期待値をもう一度平均すると元の平均」は、 複雑な期待値を条件で場合分けして計算する万能テクニック(全期待値の公式)として、実戦で最も使う道具です。

具体例で握っておきましょう。YY が離散で {Y=y}\{Y=y\} が正の確率をもつなら、一般定義は素朴な定義に一致し、 E[Xσ(Y)]\mathbb{E}[X\mid\sigma(Y)]{Y=y}\{Y=y\} 上で値 E[XY=y]=xxP(X=xY=y)\mathbb{E}[X\mid Y=y]=\sum_x x\,P(X=x\mid Y=y) をとる階段状の確率変数。 連続で密度 fX,Yf_{X,Y} があれば {Y=y}\{Y=y\} 上で xfX,Y(x,y)fY(y)dx\int x\,\frac{f_{X,Y}(x,y)}{f_Y(y)}\,dx。抽象定義は、これらを 確率 00 の割り算を避けて一括した「情報による最良予測」だと分かります。

注意 つまずきポイント

  • E[XG]\mathbb{E}[X\mid\mathcal{G}] は数ではなく確率変数。 条件 Y=yY=yyy を動かすと値が変わる、G\mathcal{G}-可測な関数。 E[XY=y]\mathbb{E}[X\mid Y=y](数)と E[Xσ(Y)]\mathbb{E}[X\mid\sigma(Y)](関数)を混同しない。
  • G\mathcal{G} が大きい=情報が多い」。 情報が最大(G=F\mathcal{G}=\mathcal{F})なら予測は XX そのもの、 情報ゼロなら普通の平均 E[X]\mathbb{E}[X]。条件付き期待値はこの両極の間を補間する。
  • 確率 11 を除いて一意。 個々の ω\omega での値は本質でなく、G\mathcal{G}-事象上の積分(平均)だけが決める。

この章のまとめ

  • 連続の条件づけは「確率 00 の割り算」で破綻する。そこで σ-加法族=情報量と読み替え、条件付き期待値を 「G\mathcal{G}-可測」かつ「G\mathcal{G}-事象上で XX と平均一致」で定義する。
  • 存在はラドン–ニコディム微分(測度論)=L2L^2 直交射影(関数解析)=情報 G\mathcal{G} による XX の最良予測
  • タワー則 E[E[XG]H]=E[XH]\mathbb{E}[\mathbb{E}[X\mid\mathcal{G}]\mid\mathcal{H}]=\mathbb{E}[X\mid\mathcal{H}]HG\mathcal{H}\subset\mathcal{G})が要。 「途中でならしても同じ」——マルチンゲールと全期待値の公式の背骨。

次章では、時間とともに情報 Fn\mathcal{F}_n が増えていく列を舞台に、「今の最良予測が未来にわたって公平」な過程—— マルチンゲールを定義し、その驚くべき停止定理と収束定理を見ます。