条件付き独立性

1 条件付き独立性の定義

1.1 基本的な概念（独立性との関係）

条件付き独立性とは、ある条件となる変数（または事象）Cが与えられたとき、2つの変数（または事象）AとBが独立に振る舞うことを意味する。独立性は「何も条件を課さない」場合の関係であり、条件付き独立性は「Cが既知」という情報を取り込んだ後の関係として理解できる。

直感的には、CによってAとBの間に存在していた連関が説明され尽くされるとき、追加でAとBを結びつける情報は残らない、という考え方に対応する。したがって、条件付き独立性は「連関の所在がCにある」ことを形式化した概念とも言える。

1.2 確率論的定義

1.2.1 条件付き確率による定式化

確率変数A、B、Cに対して、Cの値が与えられるとき、条件付き独立性を確率分布の分解で定める。

具体的には、C=c を満たす場合で、P(C=c)>0 とする条件の下で

P(A,B	C=c) = P(A	C=c) P(B	C=c)

が成り立つとき、AとBはCが与えられたもとで条件付き独立である、という。

この定義では「C=cの下での同時確率が、周辺に分解できる」ことが要点となる。Cが確率変数である以上、cの取り方ごとに関係が維持されることが要求される。

1.2.2 記法と同値な表現

上の条件は、しばしば次の同値な記法で表される。

- 統計的な条件付き独立性：A ⫫ B	C
- 条件付き密度（連続の場合を含めて）による表現：f(A,B	C) = f(A	C) f(B	C)
- 尤度・分解形の表現：P(A	B, C) = P(A	C)（P(B,C)>0の下で）
また、同様に P(B	A, C) = P(B	C) も成り立つ。

重要なのは、どの形式を採用しても「Cを与えた後は、片方を知っても他方の予測が改善しない」状況に対応している点である。記法の違いは主に周辺化や表現形式の違いに由来する。

1.3 情報量・相互情報量による定義

1.3.1 条件付き相互情報量の観点

条件付き相互情報量 I(A;B	C) を用いると、条件付き独立性を情報理論的に定義できる。条件付き相互情報量は、Cを与えたもとでAがBに対して持つ追加の情報量（平均的な効用）を測る量である。

I(A;B	C) = 0 が成り立つことと、A ⫫ B	C が（適切な条件下で）同値になる。従属が完全に解消されている場合、AがBの不確実性を減らさないため、情報量としてはゼロになる。

1.3.2 期待値としての表現

相互情報量は条件付き対数比の期待値として表現できる。一般に条件付き相互情報量は

I(A;B	C) = E[ log { P(A,B	C) / (P(A	C) P(B	C)) } ]

の形を取る。ここで比が1になれば対数は0になり、期待値も0となる。

したがって条件付き独立性は「分布の積への分解が、平均的に対数比ゼロを生む」こととして捉えられる。情報量による見方は、従属性を“どれだけ残っているか”の連続値として把握したい場合に有用である。

2 条件付き独立性の性質

2.1 対称性と基本性質

2.1.1 条件付き独立性の対称性

条件付き独立性は、AとBの役割を入れ替えても同じ意味になる。すなわち

A ⫫ B	C ならば B ⫫ A	C

が成り立つ。

これは条件付き確率の分解がAとBに対して対称であることに対応する。実務上も、片側だけを前提にして結論を作るのではなく、同値性を意識して推論・検証を進めるとよい。

2.1.2 自明な独立性（境界条件）

条件付き独立性には、状況によって自動的に成り立つ（または定義の取り扱いが注意を要する）ケースがある。

• 例：BがCの関数である場合、Cが与えられればBの不確実性が消えるため、条件付きの関係が単純化されることがある。
• 例：Cが定数である場合、条件付き独立性は通常の独立性に一致する。
• 注意：Cの取り方によっては、ある条件事象の確率が0になり得る。この場合、「その条件の下での独立性」をどう解釈するかが数学的な扱いの中心になる（一般には確率0の領域は定義の明確化が必要）。

境界条件の整理は、モデル化で誤解が生じやすい箇所でもある。

2.2 構造的性質（分解と合成）

2.2.1 分解規則（分割による扱い）

条件付き独立性は、複数の変数をまとめたときに“分割できる”形で整理できる。例えばBをB1とB2に分けると、ある条件の下で

A ⫫ (B1, B2)	C

が成り立てば、それぞれについて

A ⫫ B1	C

および

A ⫫ B2	C

が導かれることがある（逆は一般に成り立たない場合がある）。

この種の分解は、変数の塊が与える情報量を順に読み解く設計に役立つ。特に因子分解やグラフィカルモデルの節点分割で重要になる。

2.2.2 合成規則（統合による扱い）

一方で、独立性を組み合わせて“統合”した形で扱える場合もある。代表的には、複数の条件や複数の従属性が与えられた状況で、条件付き独立性の関係を一つ上位の主張としてまとめられる。

ただし、どの統合が正当化されるかは前提関係に依存する。条件の入れ替えや、条件集合への追加による変化に対しては、形式的性質（独立性の公理系としての振る舞い）を参照して判断する必要がある。

2.3 グラフィカルモデルとの整合性

2.3.1 d分離と条件付き独立性

確率的グラフ（ベイジアンネットや有向無閉路グラフ等）では、構造上の“遮断”を示す概念として d分離（d-separation）が使われる。d分離は、グラフ上で経路が条件付きにより遮断されるかを判定し、その結果として条件付き独立性が成立することを保証する。

直感的には、ある観測（条件）によって情報の伝搬が止まると、原因と結果の間の依存が消える。d分離は、どの節点集合を条件として与えると依存が解消されるかを、数式計算なしに判定する道具として機能する。

2.3.2 ベイズネットにおける役割

ベイズネットでは、条件付き独立性が分解された因子構造として表れる。各節点が親集合に条件付き独立に従うという前提を置くことで、全体の同時分布が 各変数の局所的条件付き分布の積 として記述される。

この構造により、学習や推論の計算量が削減される。さらに、モデルにおける因果的解釈や因子設計の妥当性とも結びつくため、条件付き独立性はベイズネットの“骨格”に相当する。

3 実装・判定の考え方

3.1 統計的検定としての条件付き独立性

3.1.1 離散変数の場合の検定枠組み

離散変数では、条件付き独立性をカイ二乗検定の枠組みで検討できる。典型的には、条件Cの各カテゴリごとに2変数の独立性検定を行い、その検定統計量を集約する。

頻度表に基づく手法では、期待度数が小さい領域が問題になり得るため、尤度比検定（G検定）や近似の使い方を慎重に扱う。目的が「独立か従属か」を二値で切ることなら、検定の有意水準や多重比較補正も検討事項になる。

3.1.2 連続変数の場合の検定枠組み

連続変数では、分布仮定の有無が重要になる。代表的な方向性としては次がある。

• 正規性や線形性を仮定する枠組み：条件付き独立性を部分相関に結びつけて検定する。
• ノンパラメトリックな枠組み：距離相関やカーネル法、近傍ベースの手法により、分布形を固定せずに依存を測る。

ただし、条件付き独立性は高次元の条件集合を伴う場合が多く、データが十分でないと検出力が低下する。したがって「検定の理論」だけでなく「設計上の制約」を同時に評価する必要がある。

3.2 推定（推論）としての条件付き独立性

3.2.1 機械学習による近似検出

機械学習では、条件付き独立性を直接の二値判定ではなく、予測誤差の比較や情報量推定として扱うことがある。例えば、Aの予測にBを入れると改善するか、Cのみで十分かを統計学習で評価する。

実装では、条件集合の多様な表現（特徴量設計、表現学習）と、過学習への対策が鍵になる。独立性を“外れ値や観測雑音”が作る見かけの関係から区別するために、学習・検証の分割戦略が重要になる。

3.2.2 モデル選択と独立性の整合

条件付き独立性は、モデルの選択にも直結する。例えばグラフィカルモデルでは、独立性仮定によってエッジ（依存）の有無が決まり、分解された因子に基づいてパラメータ数が調整される。

このとき、データへの適合度と仮定の強さ（単純化の程度）のトレードオフが現れる。情報量規準（AICやBICのような考え方）や、尤度と複雑さのバランスを取る戦略により、「条件付き独立性がどこまで妥当か」を選択的に決める運用が行われる。

3.3 実務上の注意点（データと前提）

3.3.1 サンプルサイズの影響

条件付き独立性の検証は、条件変数Cの値ごとにデータが分割されるため、条件が増えるほど有効なサンプルが減少しやすい。すると、推定誤差が増え、検定統計量の分散が大きくなる。

その結果、真に独立でも「検出できない」状況（偽陰性）や、逆にノイズにより依存が見える状況（偽陽性）が起こり得る。従って、条件集合の設計とサンプルサイズの見積りは同時に扱うべきである。

3.3.2 モデル誤指定の影響

条件付き独立性は、潜在的なモデル誤指定に対して脆弱になり得る。例えば、誤った共変量選択によりCが「真の遮断因子」になっていないと、独立性が崩れる。さらに、非線形性や非正規性を無視して部分相関に基づく検定を行うと、推定の前提が破れる可能性がある。

また、測定誤差がある場合、関係の形が歪み、条件付きの分解が期待通りに成立しない。実務では、データ生成過程の仮定を現実の観測に照らして点検し、頑健性の確認（別手法での再現性など）を行うことが望ましい。

4 応用分野

4.1 ベイズ推論と事後分布の簡約

ベイズ推論では、条件付き独立性により事後分布の計算が簡約される。尤度が局所的な因子の積に分かれている場合、周辺化や更新が局所化し、計算の手数が減る。

また、条件付き独立性は推論アルゴリズム（メッセージパッシング等）で必要とされる前提とも関係する。適切な独立性仮定があると、必要なメッセージ伝播範囲が限定され、推定の実行可能性が高まる。

4.2 因果推論における条件付き独立性

因果推論では、条件付き独立性が“因果的に必要な遮断”や“バックドアの経路遮断”と関係づけて使われることがある。ただし、単なる相関と区別するために、介入概念や反事実的な整合性と組み合わせて解釈する必要がある。

具体的には、適切な共変量集合を条件に取ると、介入の効果推定においてバイアスが減る、という観点で利用される。因果グラフの構造に基づく判定（d分離など）と合わせて理解されることが多い。

4.3 信念ネット・確率的グラフの設計

4.3.1 従属性の表現と計算効率

信念ネット（確率的グラフ）では、独立性は情報の欠落ではなく、依存関係をどこに置くかという設計選択として扱われる。エッジがあると依存が許され、ないと条件付き独立性が課されるため、モデル表現力と計算負荷がトレードオフになる。

疎な構造を採用すればパラメータ数が減り、推論時の計算が軽くなる。一方で独立性を課しすぎるとデータを説明しきれないため、構造学習や検証手順を通じて適切な妥協点を見つけることが実務では重要になる。