⟐ 数学の作り方 How to make Mathematics

第9章 ベールのカテゴリーと一様有界性原理

完備性の隠れた威力

第2章で完備性は「コーシー列が収束する」性質でした。実はそれ以上の“魔法”が隠れています。完備な空間は 「やせた集合（内点をもたない閉集合）の可算個の寄せ集めでは埋め尽くせない」——これがベールのカテゴリー定理です。 一見地味ですが、関数解析の三大定理（一様有界性原理・開写像定理・閉グラフ定理）はすべてここから出ます。

まず「やせている」を定義します。直感は「スカスカで、いくら集めても空間を覆えない」集合です。

定義 疎集合・やせた集合

距離空間で、閉包が内点をもたない集合を疎集合（nowhere dense）という。疎集合の可算和で書ける集合を 第一類（やせた集合）という。そうでない集合を第二類という。

定理 ベールのカテゴリー定理

完備距離空間 XX は第二類である。すなわち、X=⋃n=1∞AnX=\bigcup_{n=1}^\infty A_n と可算個の閉集合で書けたら、 少なくとも一つの AnA_n は内点をもつ。同値に、稠密開集合の可算個の共通部分は稠密。

証明

稠密開集合 UnU_n の共通部分が稠密であることを示す（同値な形）。任意の開球 B0B_0 をとる。U1U_1 が稠密開なので B0∩U1B_0\cap U_1 は空でない開集合、その中に閉球 B1‾\overline{B_1}（半径 <1<1）が入る。U2U_2 で B1‾\overline{B_1} 内に B2‾\overline{B_2}（半径 <1/2<1/2）……と入れ子の閉球列を作る。半径 →0\to0 で、完備性より中心はコーシー列で 一点 xx に収束。x∈Bn‾⊆Unx\in\overline{B_n}\subseteq U_n（全 nn）かつ x∈B0x\in B_0。よって B0∩⋂Un≠∅B_0\cap\bigcap U_n\ne\varnothing。∎

証明の心臓は「半径が縮む入れ子の閉球の共通部分が空でない」——完備性そのもの。Q\mathbb Q が第一類 （可算個の一点＝疎集合の和）なのは、Q\mathbb Q が完備でないから。「完備な空間は、やせた集合では覆えないほど “分厚い”」という定性的事実が、次の強力な定理を生みます。

ベールのカテゴリー定理：完備空間はやせた集合の可算和では覆えない。三大定理すべての源。

一様有界性原理（バナッハ–シュタインハウス）

三大定理の一つ目。「作用素の族が各点ごとに有界なら、実は一様に（作用素ノルムが一斉に）有界」という、 直感を裏切る強さの定理です。各点の情報から全体の情報が出る。

定理 一様有界性原理

XX をバナッハ空間、YY をノルム空間、{Tα}⊆B(X,Y)\{T_\alpha\}\subseteq B(X,Y) を有界作用素の族とする。もし

sup⁡α∥Tαx∥<∞(∀x∈X)(各点で有界)\sup_\alpha\|T_\alpha x\|<\infty\quad(\forall x\in X)\qquad(\text{各点で有界})

ならば、sup⁡α∥Tα∥<∞\displaystyle\sup_\alpha\|T_\alpha\|<\infty（一様に有界）。

証明

An={x∈X:sup⁡α∥Tαx∥≤n}A_n=\{x\in X:\sup_\alpha\|T_\alpha x\|\le n\} とおく。各 TαT_\alpha は連続なので AnA_n は閉集合。各点有界の仮定より X=⋃nAnX=\bigcup_n A_n。ベールのカテゴリー定理（XX 完備）から、ある ANA_N が内点をもつ：ある閉球 B‾(x0,r)⊆AN\overline{B}(x_0,r)\subseteq A_N。この球上で ∥Tαx∥≤N\|T_\alpha x\|\le N（全 α\alpha）。任意の ∥z∥≤1\|z\|\le1 に対し x0±rz∈ANx_0\pm rz\in A_N ゆえ ∥Tα(rz)∥=∥Tα(x0+rz)−Tαx0∥≤2N\|T_\alpha(rz)\|=\|T_\alpha(x_0+rz)-T_\alpha x_0\|\le 2N、よって ∥Tαz∥≤2N/r\|T_\alpha z\|\le2N/r。 すなわち ∥Tα∥≤2N/r\|T_\alpha\|\le2N/r（全 α\alpha で一様）。∎

「各点で抑えられる → どこかの球全体で一斉に抑えられる（ベール）→ 平行移動と斉次性で全空間へ」という流れ。 完備性がなければ成り立ちません（XX が不完備だと反例あり）。各点という局所情報が、ベールを経由して 作用素ノルムという大域情報に化ける——完備性の魔法の典型です。

帰結：収束と共鳴

一様有界性原理は、実解析・フーリエ解析で頻繁に使われます。代表的な帰結を挙げます。

定理 点列収束する作用素の極限

バナッハ空間の間の作用素列 Tn∈B(X,Y)T_n\in B(X,Y) が各点で収束（Tnx→TxT_nx\to Tx（∀x\forall x））するなら、極限 TT も 有界作用素で、∥T∥≤lim inf⁡∥Tn∥<∞\|T\|\le\liminf\|T_n\|<\infty。

証明

各 xx で TnxT_nx が収束＝有界なので、一様有界性原理より sup⁡n∥Tn∥=:M<∞\sup_n\|T_n\|=:M<\infty。∥Tnx∥≤M∥x∥\|T_nx\|\le M\|x\| で n→∞n\to\infty とすれば ∥Tx∥≤M∥x∥\|Tx\|\le M\|x\|。線形性は極限で保たれる。∎

注意 共鳴定理としての顔——フーリエ級数の発散

一様有界性原理は「作用素ノルムが非有界なら、それを露呈させる一点 xx が存在する」（共鳴）とも読める。この形で、 連続関数なのにフーリエ級数が一点で発散するものが存在することが証明できる（部分和作用素のノルム＝ディリクレ核の L1L^1 ノルムが log⁡n\log n で発散するため）。第5章の「L2L^2 収束はするが各点収束は繊細」の、負の側の裏付け。 抽象定理が具体的な病理を予言する好例。

つまずきポイント

注意 よくある誤解

  • 一様有界性原理は完備性が必須。 XX がバナッハでないと偽。ベールのカテゴリー定理を使うため。「各点有界⇒一様 有界」は完備空間の特権。
  • 各点有界 → 一様有界は直感に反する。 「点ごとにバラバラに抑えられるだけ」なのに、作用素ノルムが一斉に 抑えられる。ベールが局所情報を大域へ変換する。
  • やせた集合（第一類）＝“無視できるほど小さい”の位相版。 測度ゼロ（測度論）とは別概念だが 「小さい集合」という気分は近い。完備空間は第二類＝“大きい”。
  • ベールは可算和にしか効かない。 非可算和なら空間を疎集合で覆える（一点集合は疎、X=⋃x{x}X=\bigcup_{x}\{x\}）。 「可算」が本質。

この章のまとめ

  • ベールのカテゴリー定理：完備距離空間はやせた集合（疎集合の可算和）では覆えない（第二類）。証明は入れ子の縮む閉球＋完備性。三大定理すべての源。
  • 一様有界性原理（バナッハ–シュタインハウス）：バナッハ空間上で作用素族が各点有界なら一様有界（sup⁡∥Tα∥<∞\sup\|T_\alpha\|<\infty）。局所情報がベール経由で大域情報に化ける。
  • 帰結：各点収束する作用素列の極限も有界。共鳴定理として、連続関数でフーリエ級数が発散する例の存在を予言。
  • 次章では、同じくベールから出る残り二つの三大定理——開写像定理と閉グラフ定理——を証明します。

次章では、全射有界作用素が開写像であること（開写像定理）と、その帰結の逆写像定理・閉グラフ定理を扱います。