1 周辺化の基礎
1.1 概念の定義
周辺化とは、複数の確率変数を同時に記述した情報から、ある変数に関する情報だけを取り出す操作の総称である。確率論では、同時分布から他の変数を「消す」ことで、残った変数の分布を得ることを指す。連続変数では積分、離散変数では和を用いて、同時に起こり得る値の寄与を集める形になる。
周辺化は、観測可能でない変数を無視したい場合や、モデルの中で関心対象を特定の変数へ絞りたい場合に自然に現れる。たとえば、ある変数の分布だけ知りたいが、他の変数は直接観測されないとき、同時分布から周辺分布を計算することで目的を達成できる。
1.2 同時分布からの導出
1.2.1 連続変数の場合の積分
連続型の確率変数 \(X, Y\) の同時確率密度を \(f_{X,Y}(x,y)\) とする。\(X\) の周辺密度 \(f_X(x)\) は、\(Y\) の値域全体にわたって密度を積分することで与えられる。すなわち \[ f_X(x)=\int f_{X,Y}(x,y)\,dy. \] 同様に、\(Y\) の周辺密度は \[ f_Y(y)=\int f_{X,Y}(x,y)\,dx \] で求まる。
この操作の直観は、固定した \(x\) に対して \(y\) の可能性をすべて集計し、「\(X\) が \(x\) 近傍にあるときに観測される全体の重み」を作り直す点にある。周辺化は、同時密度の積分が全確率を保存する性質(正規化)と整合する。
1.2.2 離散変数の場合の和
離散型の確率変数 \(X, Y\) について、同時確率質量関数を \(p_{X,Y}(x,y)\) とする。\(X\) の周辺確率質量関数 \(p_X(x)\) は \(Y\) の全ての値に関して和を取ることで得られる。 \[ p_X(x)=\sum_{y} p_{X,Y}(x,y). \] 同様に \[ p_Y(y)=\sum_{x} p_{X,Y}(x,y) \] となる。
ここでは、各組 \((x,y)\) の同時生起確率を、\(x\) を固定して \(y\) 方向へ集約するイメージが対応する。和を取ることで、同時分布の総和は 1 に保たれ、周辺分布も正しい確率分布として成立する。
1.3 周辺分布の解釈
周辺分布は、関心対象の変数だけに注目したときの見え方を表す。つまり、他の変数の情報を「無条件に」まとめ上げた結果として得られる確率分布である。周辺化を行う前後で、取り除いた変数の細かな相関構造は保持されない。したがって、周辺分布だけでは、例えば \(X\) と \(Y\) の結びつきの強さを直接は復元できない場合がある。
一方で、観測や推定の実務では、対象変数のみを扱う場面が多い。そのため周辺分布は、条件付き分布を導く出発点にもなり、ベイズ推定などの基礎部品として広く利用される。周辺化の操作は「情報の集約」であり、関心を絞ることで解析を簡潔化する役割を担う。
2 周辺化と微積分
2.1 積分による消去
2.1.1 変数消去の考え方
周辺化が微積分と結び付く理由は、連続変数での消去が「積分」で表現されるからである。たとえば密度関数 \(f_{X,Y}(x,y)\) を持つ状況では、固定した \(x\) に対し \(y\) の寄与を連続量として足し合わせる必要がある。積分はこの足し合わせを連続版の和として実現する。
また、積分範囲は変数の取り得る領域に対応する。領域が有限である場合もあれば、無限に広がる場合もあるが、確率密度の定義により収束性が保証されるべきである。領域と関数の整合が崩れると、周辺密度が定義できない、あるいは正規化が破れることにつながる。
2.1.2 応用:計算手順の整理
実際の計算では、(1) 同時密度あるいは同時質量を確定し、(2) 消去したい変数を積分(または和)し、(3) 残った変数で周辺分布を得る、という流れを整理するとミスが減る。特に連続の場合は、積分変数と積分範囲を明示し、最後に周辺密度の全積分が 1 になるかを確認することが有効である。
多変数の場合も同様で、残す変数以外を順次に積分していくことができる。順番を変えても同じ結果になる条件があるため、計算の都合で積分順序を選びやすいが、その交換条件(積分の収束など)に注意が必要である。
2.2 和と積分の対応
周辺化の基本形は、離散・連続で置き換えることで統一的に捉えられる。離散では確率質量の総和が、連続では確率密度の積分が、それぞれ「消去された変数の全寄与」を表す。したがって、同じ記号構造を保ったまま、和と積分の違いだけを読み替えることで理解が進む。
この対応により、形式的な操作(変数消去、条件付きへの展開、正規化の検証)が共通の考え方として扱える。たとえば、多変数でも「消したい変数に対して全値域を集約する」という骨格は同じであり、計算における具体的な手段のみが異なる。
2.3 代表的な例題
例題として、連続の二変数で \(f_{X,Y}(x,y)=c\) が長方形領域上で一定、その他は 0 の場合を考える。まず同時密度の正規化により \(c\) を求め、その後 \(y\) を積分して \(f_X(x)\) を作る。\(x\) により長方形領域で有効な \(y\) の長さが変化するなら、その長さに比例した形で周辺密度が決まる。
離散でも同様の構造がある。たとえば格子点上での同時確率が与えられており、特定の \(x\) に対して取り得る \(y\) の値を列挙できるなら、その対応する確率を合計すれば周辺確率が得られる。計算の設計としては、集約すべき成分を取り違えないこと、そして最終的に周辺分布を全て足し上げて 1 になるか確認することが要点である。
3 変数変換と周辺化
3.1 ヤコビアンと座標変換
3.1.1 変数変換の基本公式
連続型で、確率変数を新しい座標に変換する状況を考える。たとえば \((X,Y)\) から \((U,V)\) への変換が一対一で微分可能な場合、密度はヤコビアン(ヤコビ行列式)により変換される。典型的には \[
| f_{U,V}(u,v)= f_{X,Y}(x(u,v),y(u,v))\left | \det\frac{\partial(x,y)}{\partial(u,v)}\right |
|---|
\] の形で与えられる。ここで \(\det\frac{\partial(x,y)}{\partial(u,v)}\) がヤコビアンである。
この式の要点は、体積要素が変換によって拡大縮小されることを、行列式の絶対値が補正する点にある。密度は「確率を微小領域で割ったもの」なので、座標変換による微小領域の大きさの変化が確率密度の形に反映される。
3.1.2 周辺化計算への組み込み
変数変換を行った後に周辺化すると、計算が容易になることが多い。たとえば原点対称な領域で同時密度がラジアル(半径のみの)構造を持つ場合、極座標の導入により周辺化の積分が単純化する。このときは、まず変換によって得られる同時密度 \(f_{U,V}(u,v)\) を正しく定義し、その上で片方の変数を積分して周辺密度を作る。
手順としては、(1) 変換の定義域と対応の妥当性を確認し、(2) ヤコビアンを含む密度変換を適用し、(3) その変数に関して積分して消去する、という流れで整理できる。境界が複雑な領域では、変換後の領域が分割を要することがあるため、領域の扱いと整合した計算設計が重要になる。
3.2 条件付き分布との関係
| 周辺化は無条件での集約であるのに対し、条件付き分布はある変数が特定の値(あるいは範囲)になったときの分布を記述する。連続型では、条件付き密度 \(f_{X | Y}(x | y)\) は通常 |
|---|
\[
| f_{X | Y}(x | y)=\frac{f_{X,Y}(x,y)}{f_Y(y)} |
|---|
\] のように同時密度を周辺密度で割って表す。ここで \(f_Y(y)\) は周辺化によって得られる対象であるため、両者は密接に関係している。
逆に、同時密度を周辺密度と条件付き分布の積として表す分解も可能である。ベイズの定理や全確率の考え方は、この分解と周辺化の関係を土台としている。したがって、周辺化を理解すると、条件付きの構造を読み解く見通しが良くなる。
3.3 図示による理解(領域の考え方)
周辺化は幾何学的にも理解できる。多くの二変数モデルでは、同時密度は平面上の領域と結び付けられる。たとえば領域の上で密度が与えられている場合、周辺化は「その領域を一つの軸方向に投影する」操作に対応する。すなわち、消したい変数に沿って縦方向あるいは横方向へ積分し、投影された線(残った変数の軸)上に周辺密度を作る。
この理解は、積分範囲の設定に直結する。領域が折り曲がっている、上限や下限が関数で与えられているといった場合は、積分する縦幅(あるいは横幅)が位置により変化するため、周辺密度の形がそれに応じて変わる。したがって、図示によって「どの範囲を足しているか」を把握することは、計算ミスの予防に役立つ。
4 よく出る論点と注意点
4.1 範囲(積分領域)の扱い
最も頻出の誤りは、積分(あるいは和)の範囲を誤ることである。周辺化は「消去される変数の取り得る全ての値」を集める操作なので、同時密度が定義されていない領域を積分してしまうと値が変わる。特に変数変換後は領域が別形に写るため、変換前に自明だった範囲が変換後に関数上限・下限として現れることがある。
また、条件付きで積分範囲が変わる場合もある。たとえば \(y\) の取り得る範囲が \(x\) によって変化する状況では、周辺化の積分設計は「固定した \(x\) のもとでの \(y\) の有効区間」を丁寧に追う必要がある。領域を図で確認しながら計算する習慣は有効である。
4.2 存在条件と正規化
周辺密度が存在するには、同時密度が周辺化により積分可能であることが必要である。具体的には、積分によって有限の値が得られ、さらに周辺密度の全積分(連続)や全和(離散)が 1 になることが望ましい。これは確率としての整合性に対応する。
正規化の確認は、計算の検算にもなる。たとえば同時密度の定数因子が未確定のまま周辺化を進めると、後で整合性が崩れて修正が必要になる。したがって、先に同時密度の正規化を行うか、あるいは周辺化後に正規化条件を満たすかを検証することが実務的には重要である。
4.3 浅い誤解(取り違え・重複計算など)
よくある誤解として、積分の対象変数と「残す変数」を取り違えることがある。たとえば \(f_X(x)\) を求めるつもりで \(x\) に関して積分してしまうと、別の量になってしまう。さらに、二度同じ方向を積分する重複計算も起こりやすい。多変数で順次周辺化をする際には、何を消し、何を残しているかを逐次リスト化するのが有効である。
また、「周辺化=独立化」と誤って理解されることもある。周辺化は相関の情報を失うが、残された変数同士に独立性が生じるとは限らない。独立性は同時分布が積に分解できることなど、より強い条件を要するため、周辺化後に得られた分布だけから独立性を判断しようとすると誤りにつながる。
4.4 応用先:統計・推定・機械学習の前提として
周辺化は統計処理の前提として広く用いられる。ベイズ推定では、未知量の事後分布を得るために尤度と事前分布の積を正規化する過程が現れ、その正規化項はしばしば周辺化(あるいは周辺尤度)として計算される。さらに、潜在変数を持つモデル(混合モデルや隠れ変数モデル)では、観測されない成分を周辺化することで目的関数を得ることがある。
機械学習でも、同様に潜在変数や中間表現を「消去」する設計が現れる。たとえば生成モデルでは、潜在変数を周辺化して観測空間上の分布を得る発想が基本になることがある。周辺化は解析と計算の両面で重要であり、どの変数をどの範囲で消去するかが、推定や学習の挙動を左右する。