1 条件付き独立の定義
1.1 確率変数と事象の独立性
条件付き独立は、二つの確率的対象が、第三の情報を固定したときに互いの不確実性に影響しないという関係を表す。基礎となる独立性は、条件を置かない場合に「Aを知ることがBの起こりやすさを変えない」こととして定式化されるが、条件付き独立ではその判定対象にCが加わる。
確率変数で考える場合、AとBは(値の取り方として)ランダムに変動し、Cはそれらの相関構造を部分的に説明する追加情報として働く。事象で捉える場合は、AやBがイベントとして定義され、それらの同時成立確率と個別確率の関係が、Cを与えたもとで評価される。いずれも、条件Cによって説明される部分を抜きにすると、AとBの関係が残らない、という意味合いを持つ。
1.2 条件付き独立の数学的表現
1.2.1 条件付き確率による定義
条件付き独立の代表的な定義は条件付き確率を用いる。確率変数(または事象)AとBが、条件Cのもとで条件付き独立であるとは、
| - P(A∩B | C) = P(A | C) P(B | C) |
|---|
が成り立つこと、または等価な形として
| - P(A | B, C) = P(A | C) |
|---|
が成立すること、などで表される。
直観的には、Cが与えられているなら、Bをさらに知ってもAの条件付き確率は変化しないことになる。逆に、Aを知ってもB側の確率は追加では変わらないという対称性も同じ数学的事実から導ける。
1.2.2 尤度比・分解形による同値条件
条件付き独立は、確率の分解の観点からも同値条件が与えられる。たとえば確率質量関数(または密度)を考えると、A,B,Cの同時分布を
- P(A,B,C) の分解
として表したとき、条件付き独立があるなら、分解の中でAとBが条件Cの下で分離される形が現れる。
尤度比による表現では、固定したCのもとでの比
| - P(A | B, C) / P(A | C) |
|---|
が1になることが独立性の要請になる。さらに情報量や対数の領域では、対数確率の差が消える、すなわち依存に由来する項が相殺されることで同値性が整理される。これらは同じ概念を異なる演算形で言い換えたものだが、後述する推論規則やモデル設計で扱いやすい形が選ばれる。
1.3 例による直感の形成
例として、Aが「特定の病気がある」、Bが「症状が観測される」、Cが「検査条件や既知の既往(または検査の感度が決まる状態)」に相当するとする。Cが固定されていれば、症状の出やすさは病気の有無と関係する一方で、Cの情報が検査条件を吸収しているなら、Bに付随する追加情報がAの確率に新たな影響を与えない状態が起こりうる。このとき条件付き独立として定式化される。
別の例として、グループ分けC(地域・年齢層など)を考え、Aが「ある商品を購入した」、Bが「ある広告をクリックした」とする。Cで市場の性質がほぼ説明されるなら、同一のCに属する人については、広告クリックの有無が購買の確率に独立に影響しない、という設計思想が条件付き独立に対応する。
この直感の要点は、「Cが相関の原因(または共通要因)を言い当てている」場合に、AとBがCを境に分離できる可能性がある、という見方にある。
2 条件付き独立の性質と推論規則
2.1 基本性質
2.1.1 対称性
条件付き独立には対称性がある。つまり、AがBのもとでCにより条件付き独立であるなら、BがAのもとでも同様に条件付き独立になる。この事実は、条件付き確率の分解がAとBを入れ替えても同じ積の形を保つことに由来する。
| 数学的には、P(A∩B | C) = P(A | C)P(B | C) の右辺が交換可能であるため、同値な条件が自然に成立する。したがって、図示・推論の段階でも一方の方向だけに偏った解釈は不要となる。 |
|---|
2.1.2 分解と合成
条件付き独立は分解の形として働き、合成(ある条件付き独立をより大きな条件に拡張する操作)により推論が整理されることが多い。特に、条件CのもとでAとBが分離できるなら、AとBに関する同時確率は積で表現でき、計算上の複雑さが軽減される。
また、複数の独立性が同時に成り立つとき、条件付き分布の積構造が組み合わさり、全体の分布がより扱いやすい形に分かれる。モデル設計や学習では、この合成性を利用して、局所的な独立仮定が大域的な推論規則を生む構造として活用される。
2.1.3 単調性(条件集合の扱い)
単調性は、条件に何を追加すると独立性の関係がどう変わるかに関する考え方として現れる。一般に、Cをより大きな情報集合へ拡張すると、独立性が維持される場合と、逆に失われる場合があるため注意が要る。
直感的には、条件を増やすことで「隠れていた共通要因」が条件側に取り込まれ、依存が消えることもあれば、逆に別の相互作用が顕在化して依存が戻ることもある。したがって、条件の拡張に関する推論は、必要な公理(後述の包含関係や同値性)が成立する枠組みでのみ慎重に扱われる。
2.2 統計的な性質
2.2.1 反事実・因果解釈との関係(論理上の整理)
条件付き独立は、因果関係の存在を直接意味するものではない。単に観測された確率モデルにおいて、条件Cで依存が消えるという事実を述べているにすぎず、反事実(介入した場合の反応)を含む因果推論では追加の仮定が不可欠になる。
論理的には、観測データで見える独立性は「共通原因を条件に入れた結果として相関が説明できている」可能性を示す一方で、「因果の方向」や「介入効果」までは確定しない。特に、条件付けの選び方により、見かけ上の独立性が変化する現象があり、これが因果解釈に混乱を生む。したがって、因果モデルとして扱うには、構造(有向性)や介入の定義に関する整合性が求められる。
2.2.2 推定と検定での現れ方
統計推定では、条件付き独立はパラメータ数を減らす仮定として働きやすい。たとえば分布の形が条件付き独立で分解できる場合、尤度が局所的に計算でき、推定の自由度が下がる。
検定の場面では、帰無仮説として条件付き独立を置き、観測データから依存の有無を評価する手法が設計される。具体的には、条件付きでの結合確率が積に従うかどうか、あるいは統計量として測ったときに乖離があるかどうかが検討対象となる。現実データでは条件付き確率の推定誤差が結果に影響するため、検定の設計にはサンプルの扱いが重要になる。
2.3 代表的な同値・包含関係
条件付き独立の同値・包含関係は、推論規則の土台になる。代表例として、条件付き独立は分解形、条件付き確率の等式、積の形など複数の表現が同値となる。これにより、モデル記述側(グラフ、構造仮定)と推論側(確率計算、検定統計量)の間を往復できる。
また包含関係として、ある形の条件付き独立が成立すると、より弱い独立性(ある種の辺や集合の縮約)も導かれる場合がある一方、逆方向は一般には成り立たないことが多い。これらは確率モデルのクラス(離散/連続、正則性条件、条件付きで割れるか等)や、扱う独立性の定義域に依存して厳密に確認される。
3 機械学習・統計モデルでの利用
3.1 ベイズネットとグラフィカルモデル
3.1.1 グラフ構造と独立性の対応
ベイズネットやグラフィカルモデルでは、条件付き独立がグラフ構造から読み取れる形で実装されることが多い。ノードは確率変数を表し、辺(または向き)と接続関係は、ある条件付き独立が成り立つことを示す手がかりになる。
典型的には、あるノード集合が他の集合から「条件を与えたときに情報の伝播が遮断される」ようにグラフが構成されていると、対応する変数間の条件付き独立が生じる。さらに、この対応はグラフ上の到達可能性(経路の遮断)と条件集合の選び方で判定できる枠組みとして整理される。結果として、複雑な高次分布が、局所的な相互関係の積として計算される。
3.2 マルコフ性との関係
3.2.1 条件付き独立としてのマルコフ条件
マルコフ性は「過去の要約が現在の状態で十分である」という性質で、確率的には条件付き独立の言語で表現されることが多い。時間系列で、現在の状態X_tが与えられたとき、未来X_{t+1:t+k}が過去X_{1:t-1}に依存しない、という形に落とし込める場合がある。
このとき「現在の状態を条件に取れば、過去と未来が独立(または条件付き独立)になる」という構造が現れる。Hidden Markov Modelのようなモデルでは、この性質に基づいて前向き・後ろ向き手続きが成立し、推論が効率的になる。
3.3 次元削減・推論の効率化
条件付き独立は、確率推論を大幅に軽量化する動機になる。分布が依存構造の仮定により分解できると、正規化や周辺化の計算で扱う状態数が縮小されるためである。
具体的には、独立性により巨大な同時分布を直接保持せずとも、局所パラメータだけで全体を近似・表現できる。さらに、メッセージ伝播のようなアルゴリズムでは、辺ごとの情報交換が限定されるため計算負荷が抑えられる。結果として、学習(パラメータ推定)と推論(確率計算や予測)が同じ構造仮定の恩恵を受けやすくなる。
4 記法・用語・注意点
4.1 記法の揺れと前提
4.1.1 条件付き独立の表記(A ⟂ B | C)
| 条件付き独立はしばしば「A ⟂ B | C」という記法で書かれる。ここで「⟂」は「条件Cのもとで独立」を意味する記号として用いられ、AとBが互いに(Cを与えたときに)依存しないことを短く表す。 |
|---|
ただし表記の細部では、AやBが確率変数なのか事象なのか、またCがどの種類の条件(値の固定、集合の条件付け、σ-加法族での条件付け)かが文献によって異なることがある。数学的厳密さを保つには、読者が前提としている対象(ランダム変数、イベント、条件付き分布の意味)を明確にする必要がある。
4.1.2 0でない条件の要請
条件付き確率による定義を使う場合、「Cを与えたとき」の確率が割り当てられるため、Cに相当する条件が適切に定義可能であることが要求される。離散系なら P(C) > 0 のような条件がしばしば必要になる。
連続系や密度ベースでは、ゼロ確率事象の扱いが関与し、条件付き確率の定義を密度や正則条件に基づいて行う必要がある。このため、単に形式的に記号を並べるだけでは厳密性が崩れることがあり、定義域と正当化の前提を確認することが重要になる。
4.2 「独立」と「条件付き独立」の混同
独立性と条件付き独立は似た響きを持つが、別概念である。AとBが独立なら、通常は任意のCのもとでも条件付き独立になるとは限らない。一方で、条件付き独立が成立しても、条件を外した(つまりCを無視した)ときに独立が成り立つ保証はない。
混同が起きやすい典型は、共通要因や制御変数が絡むときである。例えばCを無視すると相関が見えるが、Cを入れると相関が消えるケースがある。その逆に、条件付けにより非独立が生じるような状況も理論上あり得る。よって、独立性を主張するときは必ず「どの条件のもとで」成立するのかを明確に書く必要がある。
4.3 実データでの扱いと限界
4.3.1 サンプル数不足による見かけの依存
実データで条件付き独立を検証・利用する際、条件付き分布の推定に必要なデータ量がボトルネックになる。Cの値(または状態)が増えるほど、条件ごとの観測数が減り、推定誤差が大きくなるためである。
その結果、真に独立でも統計的に依存があるように見える(あるいは逆に依存が見えなくなる)現象が起こり得る。特に高次元の特徴量を条件に入れると、観測がまばらになりやすく、条件付き確率や密度の推定が不安定になる。モデル選択や正則化、条件集合の適切な設計、評価のための検証手続きが重要となる。