第9章ベールのカテゴリーと一様有界性原理

完備性の隠れた威力

第2章で完備性は「コーシー列が収束する」性質でした。実はそれ以上の“魔法”が隠れています。完備な空間は「やせた集合（内点をもたない閉集合）の可算個の寄せ集めでは埋め尽くせない」——これがベールのカテゴリー定理です。一見地味ですが、関数解析の三大定理（一様有界性原理・開写像定理・閉グラフ定理）はすべてここから出ます。

まず「やせている」を定義します。直感は「スカスカで、いくら集めても空間を覆えない」集合です。

定義疎集合・やせた集合

距離空間で、閉包が内点をもたない集合を疎集合（nowhere dense）という。疎集合の可算和で書ける集合を第一類（やせた集合）という。そうでない集合を第二類という。

定理ベールのカテゴリー定理

完備距離空間 $X$ は第二類である。すなわち、 $X=\bigcup_{n=1}^\infty A_n$ と可算個の閉集合で書けたら、少なくとも一つの $A_n$ は内点をもつ。同値に、稠密開集合の可算個の共通部分は稠密。

証明

稠密開集合 $U_n$ の共通部分が稠密であることを示す（同値な形）。任意の開球 $B_0$ をとる。 $U_1$ が稠密開なので $B_0\cap U_1$ は空でない開集合、その中に閉球 $\overline{B_1}$ （半径 $<1$ ）が入る。 $U_2$ で $\overline{B_1}$ 内に $\overline{B_2}$ （半径 $<1/2$ ）……と入れ子の閉球列を作る。半径 $\to0$ で、完備性より中心はコーシー列で一点 $x$ に収束。 $x\in\overline{B_n}\subseteq U_n$ （全 $n$ ）かつ $x\in B_0$ 。よって $B_0\cap\bigcap U_n\ne\varnothing$ 。∎

証明の心臓は「半径が縮む入れ子の閉球の共通部分が空でない」——完備性そのもの。 $\mathbb Q$ が第一類（可算個の一点＝疎集合の和）なのは、 $\mathbb Q$ が完備でないから。「完備な空間は、やせた集合では覆えないほど “分厚い”」という定性的事実が、次の強力な定理を生みます。

ベールのカテゴリー定理：完備空間はやせた集合の可算和では覆えない。三大定理すべての源。

一様有界性原理（バナッハ–シュタインハウス）

三大定理の一つ目。「作用素の族が各点ごとに有界なら、実は一様に（作用素ノルムが一斉に）有界」という、直感を裏切る強さの定理です。各点の情報から全体の情報が出る。

定理一様有界性原理

$X$ をバナッハ空間、 $Y$ をノルム空間、 $\{T_\alpha\}\subseteq B(X,Y)$ を有界作用素の族とする。もし

\sup_\alpha\|T_\alpha x\|<\infty\quad(\forall x\in X)\qquad(\text{各点で有界})

ならば、 $\displaystyle\sup_\alpha\|T_\alpha\|<\infty$ （一様に有界）。

証明

$A_n=\{x\in X:\sup_\alpha\|T_\alpha x\|\le n\}$ とおく。各 $T_\alpha$ は連続なので $A_n$ は閉集合。各点有界の仮定より $X=\bigcup_n A_n$ 。ベールのカテゴリー定理（ $X$ 完備）から、ある $A_N$ が内点をもつ：ある閉球 $\overline{B}(x_0,r)\subseteq A_N$ 。この球上で $\|T_\alpha x\|\le N$ （全 $\alpha$ ）。任意の $\|z\|\le1$ に対し $x_0\pm rz\in A_N$ ゆえ $\|T_\alpha(rz)\|=\|T_\alpha(x_0+rz)-T_\alpha x_0\|\le 2N$ 、よって $\|T_\alpha z\|\le2N/r$ 。すなわち $\|T_\alpha\|\le2N/r$ （全 $\alpha$ で一様）。∎

「各点で抑えられる → どこかの球全体で一斉に抑えられる（ベール）→ 平行移動と斉次性で全空間へ」という流れ。 完備性がなければ成り立ちません（ $X$ が不完備だと反例あり）。各点という局所情報が、ベールを経由して作用素ノルムという大域情報に化ける——完備性の魔法の典型です。

帰結：収束と共鳴

一様有界性原理は、実解析・フーリエ解析で頻繁に使われます。代表的な帰結を挙げます。

定理点列収束する作用素の極限

バナッハ空間の間の作用素列 $T_n\in B(X,Y)$ が各点で収束（ $T_nx\to Tx$ （ $\forall x$ ））するなら、極限 $T$ も有界作用素で、 $\|T\|\le\liminf\|T_n\|<\infty$ 。

証明

各 $x$ で $T_nx$ が収束＝有界なので、一様有界性原理より $\sup_n\|T_n\|=:M<\infty$ 。 $\|T_nx\|\le M\|x\|$ で $n\to\infty$ とすれば $\|Tx\|\le M\|x\|$ 。線形性は極限で保たれる。∎

注意共鳴定理としての顔——フーリエ級数の発散

一様有界性原理は「作用素ノルムが非有界なら、それを露呈させる一点 $x$ が存在する」（共鳴）とも読める。この形で、 連続関数なのにフーリエ級数が一点で発散するものが存在することが証明できる（部分和作用素のノルム＝ディリクレ核の $L^1$ ノルムが $\log n$ で発散するため）。第5章の「 $L^2$ 収束はするが各点収束は繊細」の、負の側の裏付け。抽象定理が具体的な病理を予言する好例。

つまずきポイント

注意よくある誤解

一様有界性原理は完備性が必須。 $X$ がバナッハでないと偽。ベールのカテゴリー定理を使うため。「各点有界⇒一様有界」は完備空間の特権。
各点有界 → 一様有界は直感に反する。 「点ごとにバラバラに抑えられるだけ」なのに、作用素ノルムが一斉に抑えられる。ベールが局所情報を大域へ変換する。
やせた集合（第一類）＝“無視できるほど小さい”の位相版。 測度ゼロ（測度論）とは別概念だが「小さい集合」という気分は近い。完備空間は第二類＝“大きい”。
ベールは可算和にしか効かない。 非可算和なら空間を疎集合で覆える（一点集合は疎、 $X=\bigcup_{x}\{x\}$ ）。「可算」が本質。

この章のまとめ

ベールのカテゴリー定理：完備距離空間はやせた集合（疎集合の可算和）では覆えない（第二類）。証明は入れ子の縮む閉球＋完備性。三大定理すべての源。
一様有界性原理（バナッハ–シュタインハウス）：バナッハ空間上で作用素族が各点有界なら一様有界（ $\sup\|T_\alpha\|<\infty$ ）。局所情報がベール経由で大域情報に化ける。
帰結：各点収束する作用素列の極限も有界。共鳴定理として、連続関数でフーリエ級数が発散する例の存在を予言。
次章では、同じくベールから出る残り二つの三大定理——開写像定理と閉グラフ定理——を証明します。

次章では、全射有界作用素が開写像であること（開写像定理）と、その帰結の逆写像定理・閉グラフ定理を扱います。

第9章 ベールのカテゴリーと一様有界性原理