分布収束

1 分布収束の基本

1.1 定義（弱収束）

1.1.1 連続有界関数による定義

確率変数列（または確率過程）の分布が極限分布へ分布収束すると言うとき、典型的には「確率の値そのもの」ではなく、連続で有界なテスト関数に対する期待値が極限で一致することを要請する。 具体的には、確率空間上で定義された確率変数 \(X_n\) と \(X\) に対し、任意の連続有界関数 \(f\) について \[ \mathbb{E}[f(X_n)] \to \mathbb{E}[f(X)] \quad (n\to\infty) \] が成り立つとき、\(X_n\) は \(X\)（あるいは \(X\) の分布）に分布収束する。この定義は、測度論的には確率測度の弱い収束として表現できる。

1.1.2 分布関数による同値な言い方

分布収束は、分布関数の点wiseな極限で言い換えられる場合が多い。とくに一変量の連続分布のもとでは、分布関数 \(F_n(x)=\mathbb{P}(X_n\le x)\) の極限が \(F(x)=\mathbb{P}(X\le x)\) に一致するかどうかが判定に用いられる。 同値性が成立する中心的な条件は、「極限分布の不連続点での一致」を除いてよい点にある。一般に、\(F_n\) が \(F\) へ点 \(x\) ごとに近づき、その点が \(F\) の連続点であるなら、分布収束と整合する。逆向きも、適切な不連続点の扱いを含めれば同値となる。

1.1.3 収束の記号と用語（「収束先」「極限分布」）

分布収束の表記は文脈により異なるが、よく使われる記号として \[ X_n \Rightarrow X \] のように「\(\Rightarrow\)」を用いる流儀がある。ここで「収束先」とは、確率変数としての \(X\)（あるいはその分布）を指すことが多い。 また「極限分布」とは、\(X\) の分布、あるいは分布収束によって引き寄せられる最終的な確率分布を意味する。確率変数が同じ実現を持つ必要はなく、分布の形の変化に焦点が置かれる。

1.2 扱う対象（確率変数と分布）

1.2.1 一変量の場合

一変量では、分布関数を介した議論が中心になりやすい。収束判定としては、連続有界関数による期待値の一致、あるいは分布関数の極限と連続点の関係が用いられる。 典型的な場面として、正規分布・ガンマ分布・ポアソン分布などの「既知の候補」を極限分布として推測し、その候補に対し分布収束を示す。ここで候補が正しいかどうかは、期待値の極限や特徴関数の一致といった枠組みで検証する。

1.2.2 多変量の場合

多変量では、確率変数が \(\mathbb{R}^d\) 上で値を取るとし、極限分布も同次元の測度として扱う。テスト関数は \(\mathbb{R}^d\) 上の連続有界関数に拡張され、同様の期待値極限が要請される。 多変量特有の注意として、周辺分布の性質だけでは全体の収束を決められないことがある一方で、適切な条件の下では「周辺への分解」と「同時性の条件」を組み合わせることで結論が得られる。分布収束の議論は、結局は確率測度の弱い収束として整理されるため、トポロジーや距離に基づく見方とも自然に接続する。

1.3 直観的理解

1.3.1 「事象の確率」ではなく「テスト関数の期待値」に注目する理由

分布収束の定義が「すべての事象 \(A\) で \(\mathbb{P}(X_n\in A)\to \mathbb{P}(X\in A)\)」のような強い要求を課さないのは、一般にはその要請が過度に厳しく、計算や証明が困難になることが多いためである。 一方、連続有界関数 \(f\) は事象の境界に敏感になりにくい。期待値 \(\mathbb{E}[f(X_n)]\) は確率分布を「滑らかな観測器」で平均化して見る操作に対応し、極限過程での不連続性や境界の扱いが緩和される。そのため、極限分布の決定や近似が現実的になる。

1.3.2 例：正規分布への近づき方

代表例は、標本平均の分布が正規分布に近づく状況である。たとえば独立同分布なランダム変数 \(Y_i\) の和や平均を適切に正規化すると、極限として標準正規分布や一般の正規分布が現れる。この現象は中心極限定理の枠組みで説明される。 直観としては、和が「多数の微小な寄与の合成」と見なせるため、滑らかな関数で平均したときの挙動が正規分布のそれへ収束しやすい。具体的には、連続有界な関数 \(f\) について \(\mathbb{E}[f]\) が一致していくことが、正規への分布収束の核になる。

2 収束概念との関係

2.1 確率収束との関係

2.1.1 ほぼ確実収束との関係

確率収束とは、任意の \(\varepsilon>0\) に対し \(\mathbb{P}(	X_n-X	>\varepsilon)\to 0\) が成り立つことを指す。ほぼ確実収束は、\(\mathbb{P}(\lim_{n\to\infty}X_n=X)=1\) を意味する。

一般に、ほぼ確実収束は確率収束を導き、さらに確率収束は分布収束を導く。これは、分布収束が連続有界関数の期待値で記述されるため、確率の強さが十分に落ちれば期待値の極限一致が追随することによる。

2.1.1.1 一般に成り立つ含意の整理

主要な包含関係として、典型的な順序は次の形で整理できる。 まず、ほぼ確実収束 \(\Rightarrow\) 確率収束 \(\Rightarrow\) 分布収束が成り立つ。一方で逆向きは一般には成り立たない。たとえば分布収束が成立しても、点ごとの差が確率的に散らばったままであり、同じ実現に沿った強い収束が保証されないことがある。

2.2 分布収束と強い収束の違い

2.2.1 どこで要求が弱くなるか

分布収束が弱い要求である点は、観測対象が「広いクラスのテスト関数の平均」に留まるところにある。強い収束（確率収束やほぼ確実収束）は、差 \(X_n-X\) の挙動そのものを、閾値や実現の収束という形で制御する。 これに対し分布収束は、各種の滑らかな指標に対する平均が極限一致すればよく、原理的には個々の実現での一致を要求しない。そのため、同じ分布収束でも強い収束が直ちに得られない場合が生じる。

2.2.2 典型的な反例の見方

反例の典型的な構図は、「分布が極限分布に近づくが、実現側では時々大きく外れる」ような挙動にある。すなわち、差が大きくなる回が稀であれば確率収束の可能性は残るが、稀さの程度が弱いと分布収束に留まる。 このとき、連続有界関数の期待値は境界付近の影響がならされ、極限における整合が保たれる。しかし、閾値を超える確率の収束や、実現ベースの収束は保証されないため、強い収束の要請を満たさない例として理解できる。

2.3 メトリック・トポロジーとの関係

2.3.1 弱収束を測る考え方

弱収束は、測度（確率分布）の収束を「ある種の連続性」によって定義する。ここで用いられるのは、連続有界関数による評価であり、これは測度に入った関数作用素を通じて距離の代替を与える。 収束をトポロジーとして捉えると、弱収束は「特定の開集合に関する収束」としても理解でき、確率論における解析（コンパクト性、連続写像、部分列の存在など）と相性がよくなる。

2.3.2 Prokhorov距離などの位置づけ（概念整理）

Prokhorov距離は、弱収束の概念を距離空間の構造として取り込む代表例である。距離を導入することで「弱収束がどれだけ近いか」を定量化でき、収束や連続性の議論がより扱いやすくなる。 この距離が特徴的なのは、距離がゼロになることが弱収束に対応するだけでなく、適切な意味で同じ収束構造を再現する点にある。結果として、弱収束に関する定理（コンパクト性、部分列の抽出など）を、距離論の言葉で再整理できる。

3 分布収束の主要定理

3.1 極限定理の枠組み

3.1.1 中心極限定理（概観）

中心極限定理は、多くの状況で正規分布が極限分布として現れることを保証する枠組みである。独立性や分散の条件、正規化の仕方（平均の引き算と尺度の掛け方）によって適用条件が定まる。 結果は「和や平均が分布収束の意味で正規分布へ近づく」形で述べられ、証明では特徴関数やテイラー展開、連続写像定理などが組み合わされることが多い。分布収束が採用される理由は、滑らかな観測の収束として整理しやすく、正規分布という中心的な対象へ収束を示すのに自然だからである。

3.1.2 大数の法則との対応

大数の法則は、標本平均が確率やほぼ確実の意味で期待値付近に集まる現象を述べる。これは分布収束の極限（分布が点に集中する）として見ることもでき、分布収束と相補的に理解できる。 すなわち、大数の法則が示すのは「分散が消えることで、分布が縮退分布（ある定数に確率が集中するもの）へ向かう」方向である。中心極限定理は「縮退しきらない揺らぎ」を適切な尺度で拡大したときに正規形が現れる、という対応関係で捉えられる。

3.2 連続写像定理

3.2.1 関数変換と極限の受け渡し

連続写像定理は、分布収束が関数変換を通じて保たれることを述べる。具体的には、\(X_n\Rightarrow X\) のもとで、ある連続写像 \(g\) を適用した \(g(X_n)\) は \(g(X)\) に分布収束する。 理由は、テスト関数の構成により、\(f(g(\cdot))\) が再び連続有界として扱えるためである。したがって、極限分布を知りたい写像（変数変換、統計量の変形など）を先に決めても、分布収束の性質が保持される。

3.2.2 例：正規性の保持・崩れ方

正規分布は線形変換に対して形が保たれやすい。たとえば正規分布に対しアフィン変換を施せば、結果は再び正規分布となる。ここでは連続写像定理の視点から「正規へ分布収束するなら、連続な変換を施してもその極限は対応する変換後の分布へ向かう」ことが説明の軸になる。 一方、変換が連続でない場合は話が変わり、分布が境界での性質に敏感になる。たとえば分布関数にジャンプがある状況で不連続変換を行うと、極限分布が直感通りに変換されず、保持が崩れることがある。この差は連続性という条件の重要性を示している。

3.3 スラツキーの定理・ポートマンティ型の考え方

3.3.1 条件分岐での利用

スラツキーの定理は、分布収束する量に対して、確率収束する量や定数が組み合わされたときの極限を決める道具である。直観的には、「ある成分が極限で安定しているなら、残りの成分の揺らぎに基づく分布の形が支配的になる」という考え方に沿う。 条件分岐の利用としては、たとえば \(A_n\) が確率収束して \(A_n\) が極限値に張り付くとき、積や和の形で \(A_n B_n\) の極限分布を \(B_n\) の極限から導く。数学的には、テスト関数の評価における誤差項の制御が鍵になる。

3.3.2 構成の発想（概略）

ポートマンティ型の考え方は、スラツキーの定理の一般化された利用や、複数の近似を「足し合わせる」ような発想と関連する。構成の狙いは、分布収束の成否を直接追うのではなく、有限回の変形によって既知の収束へ帰着させる点にある。 典型的な流れは、(1) 目的の統計量を既知の形に分解し、(2) 近似の差が小さいことを確率収束（あるいは分布収束でも十分な形）で示し、(3) 主要項の極限分布を特定する。すると差分の影響が消え、目的の極限分布が得られる。

4 計算・証明のための道具

4.1 期待値による検証（テスト関数）

4.1.1 連続有界関数の扱い

期待値による検証は、分布収束の定義に最も忠実な方法である。連続有界関数 \(f\) を任意に取ったうえで \(\mathbb{E}[f(X_n)]\) を評価し、極限が \(\mathbb{E}[f(X)]\) に一致することを示す。 実務では、\(f\) の一般性を保ちつつも、評価可能な形に変形する必要がある。しばしば分布の密度や分布関数の性質、あるいは漸近形を用い、誤差の減衰を押さえる。

4.1.2 閾値近傍の注意点

有界性と連続性は強い仮定であり、定理の適用範囲を広げる一方で、証明上の注意も要する。たとえば分布関数に急な変化がある場合でも、連続なテスト関数は境界近傍の寄与を滑らかに吸収する。 逆に、テスト関数が連続でない、または成長が大きいと、極限操作が失敗しやすい。したがって「どのクラスまで許すか」を見極め、境界点や尾部挙動の寄与が適切に抑えられているかを確認するのが要点になる。

4.2 特性関数による手法

4.2.1 特性関数と分布の結びつき

特性関数は確率分布を特徴づける生成的道具である。確率変数 \(X\) の特性関数は一般に \[ \varphi_X(t)=\mathbb{E}[e^{itX}] \] で定義され、分布の情報を複素数値の関数として符号化する。 分布収束に関しては、特性関数がある極限関数へ点ごとに収束し、かつ極限関数が「ある確率分布の特性関数」であることが確認できれば、分布収束が導かれる。計算可能な対象としての利便性が高く、極限定理の証明でも頻繁に登場する。

4.2.2 レヴィの連続性定理の用い方（概略）

レヴィの連続性定理は、特性関数の収束から分布収束を結ぶ代表的な結果である。具体的には、特性関数 \(\varphi_{X_n}(t)\) が \(t\) の各点である関数 \(\varphi(t)\) に収束し、その \(\varphi(t)\) が正しく特性関数として連続性や正定値性を満たすとき、\(X_n\) は分布収束する。 実務的な手順は、(1) 特性関数の極限を求め、(2) 得られた極限が既知の分布（正規、ポアソンなど）の特性関数であることを確認し、(3) 定理の条件を満たして分布収束を結論する流れになる。

4.3 分布の tightness（緊密性）の考え方

4.3.1 なぜ必要になるか

tightness は、分布が極限へ向かう前に「確率が無限遠へ逃げていない」ことを保証する概念である。弱収束は、測度の集まりが適切にコンパクトに近い性質を持つときに、部分列の極限が存在しやすくなる。 したがって、分布収束を示す際に、まず分布族が tight であることを示し、次に部分列の極限を特定して最終結論につなげる戦略がよく用いられる。

4.3.2 ツールとしての位置づけ

tightness は「極限の存在」を補助する役割を持つ。たとえばある列に対し、任意の \(\delta>0\) に対して十分大きなコンパクト集合が存在し、その外に出る確率が \(\delta\) 以下に抑えられることが示せれば tightness が得られる。 この性質が得られると、プロホロフ型の議論を経て、部分列がある極限分布へ弱収束することが導かれる。さらに極限候補が一意なら、列全体の収束まで拡張できる。

4.4 応用例（確率モデルへの適用）

4.4.1 サンプリングや集計に現れる極限

サンプリングや集計のモデルでは、独立和、回帰誤差、観測ノイズの合成などが現れ、中心極限定理やスラツキー型の定理が適用されやすい。たとえば反復測定の平均、標本分散、カウント型データの集計では、正規やポアソンといった分布が漸近的に現れることがある。 証明の実務では、まず統計量を既知の形（和、正規化された和、条件つき期待）へ落とし込み、その後で分布収束を特定するという流れになる。

4.4.2 回帰・推定での漸近分布（概観）

回帰や推定の漸近解析では、推定量の分布がサンプル数とともにどのような極限形を取るかが中心になる。典型的には推定誤差を一次近似（線形化）し、中心的なランダム項の漸近分布を求める。 このとき、連続写像定理によって関数変換後の漸近分布を扱ったり、スラツキーの定理でスケール推定や正規化の揺らぎを吸収したりする。結果として、推定量が漸近的に正規分布へ近づくという形で整理されることが多い。