1 共役事前分布の基本
1.1 ベイズ推定における役割
ベイズ推定では、未知の量に対して「事前分布」を与え、観測データに基づいて「事後分布」を更新する。共役事前分布は、この更新によって得られる事後分布が、あらかじめ指定した分布族と同じ形のまま表せるように選ばれた事前分布である。これにより、更新計算の結果が解析式として扱いやすくなり、推定値や不確実性の表現が体系化される。
実務上の利点は、事後分布の形を維持したままパラメータだけを更新することで、予測分布の導出や推定量の計算を容易にできる点にある。理論面では、推論の性質を分布族の枠組みで整理できるため、学習の挙動や計算量の見通しを立てやすい。
1.2 共役性の定義（事後分布が同じ分布族に属する）
共役性とは、ある尤度関数と事前分布の組合せに対して、事後分布が同じ分布族に属するという性質を指す。より具体的には、事前分布をあるパラメータ表示された分布族に限定し、観測データで更新した結果得られる事後分布も同じ分布族のメンバーとして書けるとき、その事前分布は「共役」と呼ばれる。
この概念は「分布の形が保たれる」と言い換えられることが多い。ここで重要なのは、事後分布のパラメータ値は更新されるが、関数としての型（分布族）が変化しない点である。したがって、共役性は「更新が閉じている」性質として捉えられる。
1.3 解析的更新が可能になる意義
共役事前分布を用いると、事後分布の分布族が保持されるため、正規化を含む更新式を解析的に導ける場合が多い。通常、ベイズ更新は「尤度と事前の積を事後として正規化する」操作であり、一般には積分が必要になる。しかし共役性が成立すると、その正規化と分布表現が既知の形に帰着し、パラメータ更新則として簡潔に整理できる。
解析的更新の意義は、単に計算が速いだけでなく、更新の構造が明確になる点にもある。たとえば、観測が事後のどの成分（中心傾向、ばらつき、強度など）にどれだけ影響するかが更新則に反映されるため、モデルの設計や解釈がしやすい。
2 数学的枠組み
2.1 ベイズの定理と更新式
ベイズの定理は、未知パラメータ（または潜在変数）を \(\theta\)、観測を \(x\) とするとき、事後分布 \(p(\theta\mid x)\) を次の関係で与える。 \[ p(\theta\mid x)=\frac{p(x\mid \theta)p(\theta)}{p(x)} \] ここで \(p(x)\) は全確率の分母であり、正規化定数として働く。共役事前分布では、\(p(x\mid \theta)\)（尤度）と \(p(\theta)\)（事前）を掛け合わせた結果が、指定した分布族の形に一致するため、分母を含めた式全体が既知の分布表現に落ちることが多い。
実際の更新式は、事後分布のパラメータを事前パラメータとデータ統計量の関数として書けるかどうかで決まる。共役性は、この「パラメータの更新が閉じる」ことを保証するための条件として理解される。
2.2 事前・尤度・事後の関係
事前分布 \(p(\theta)\) は、データを見る前の \(\theta\) に対する確率的信念を表す。尤度 \(p(x\mid \theta)\) は、与えた \(\theta\) のもとでデータがどれほど起こりやすいかを示す。事後分布は、その積に比例し、全体が1に正規化されたものである。
共役性が効く場面では、尤度の \(\theta\) 依存部分が「分布族の十分統計量」に対応し、事前の \(\theta\) 依存も同じ枠組みで表される。結果として、積の形がその分布族の仮定どおりに整理され、更新後も同型の分布として記述できる。
2.3 分布族の一致（同型性）の考え方
共役性を定式化するには、事前分布を分布族 \(\{p(\theta\mid \eta)\}\) に制限し、観測後の事後分布が同じ形 \(\{p(\theta\mid \eta')\}\) として表現できることを示す必要がある。ここで \(\eta\) はパラメータ（しばしば複数成分）を表し、更新後のパラメータ \(\eta'\) は観測データに依存する。
同型性が意味するのは、確率密度（または確率質量関数）の指数的な形や多項式因子など、構造レベルで一致が成立することに近い。特に指数型分布族では、分布族の形が指数関数のパラメータ化で定まり、共役性はその整合性として現れやすい。したがって、共役性の検討はしばしば「十分統計量の対応」と「指数パラメータの線形性」の確認に帰着する。
3 代表例（広く用いられるモデル）
3.1 ベルヌーイ—ベータ（確率の推定）
ベルヌーイ分布では、成功確率を \(p\) とし、観測 \(x\in\{0,1\}\) に対して \[ p(x\mid p)=p^x(1-p)^{1-x} \] を用いる。事前としてベータ分布 \(p(p\mid \alpha,\beta)\) を選ぶと、 \[ p(p\mid \alpha,\beta)\propto p^{\alpha-1}(1-p)^{\beta-1} \] である。
観測 \(x\)（複数回なら成功数と失敗数）で更新すると、指数の次数がそれぞれ加算され、事後もベータ分布として得られる。たとえば成功が1で失敗が0の観測が入ると、成功側の指数に対応するパラメータが増える形になる。複数データに対しても同様で、事後のパラメータは「事前の擬似カウント」と「観測された成功・失敗の回数」の和として表現される。
3.2 二項—ベータ（二項観測の確率推定）
二項分布では、試行回数 \(n\) のうち成功数 \(k\) を観測する。 \[ p(k\mid p)=\binom{n}{k}p^k(1-p)^{n-k} \] ここに事前としてベータ分布を置くと、事後はやはりベータ分布になる。尤度中の \(p\) に関する依存は \(p^k(1-p)^{n-k}\) の形で現れるため、事前のベータ分布の指数構造と一致し、更新後の分布族が維持される。
結果として、事後パラメータは典型的に \(\alpha'=\alpha+k\)、\(\beta'=\beta+n-k\) のように更新される。したがって、データは「成功数」と「失敗数」の2つの要約量としてのみ事後に影響する。これは共役性が十分統計量を通じて閉じていることを示す例でもある。
3.3 正規分布と共役事前（平均・分散の扱い）
正規分布に対する共役事前としては、平均と分散の扱いの仕方によって代表的な形が異なる。分散を既知とし平均だけを未知とする場合、平均に対して正規分布を事前に置くと、事後も正規分布になる。観測の平均との差や分散に応じて、事後平均は事前の中心と観測平均の間に位置し、分散は観測によって縮む。
一方、分散も未知の場合は、平均と精度（分散の逆数）に関して共役な構造を持たせる枠組みが用いられる。典型的には「正規分布 × ガンマ分布」の組合せにより、事後の更新が解析的に可能になる。これにより、平均の推定とばらつきの推定が同時に行えるが、更新式のパラメータは観測の二乗和など複数の要約量に依存する。
3.4 ポアソン—ガンマ（強度の推定）
ポアソン分布は、非負整数のカウントに対して強度パラメータ \(\lambda\) を用いる。 \[ p(k\mid \lambda)=\frac{e^{-\lambda}\lambda^k}{k!} \] 事前としてガンマ分布 \(p(\lambda)\) を選ぶと、観測後の事後分布もガンマ分布になる。尤度の \(\lambda\) 依存部分は \(e^{-\lambda}\lambda^k\) の形であり、ガンマ分布の指数・冪の構造と整合するため、積がガンマ型に収束する。
更新則では、事後の形に関わるパラメータは「観測回数（あるいは露出の総量）」と「観測された総カウント」によって増減する。これにより、強度推定ではデータが自然な統計量としてまとめられ、計算が単純化される。分散の大きさや不確実性の反映も、ガンマ分布のパラメータ更新に内包される。
4 共役事前分布の利点と限界
4.1 利点：計算の容易さと推論の透明性
共役事前分布の主な利点は、事後分布の形を解析的に得やすいことである。これにより、尤度と事前の組合せがどの統計量を通じて学習を進めるかが見通せる。更新式がパラメータの加算や単純な変換として現れる場合、計算は高速で、アルゴリズムも実装しやすい。
さらに、透明性の観点では、事前情報がどの程度の重みで事後に反映されるかが、擬似カウントや更新に現れるパラメータ構造として理解できる。したがって、推定結果を「データが強く支配している」か「事前の影響が残っている」かを点検する際にも有用である。
4.2 限界：モデル化の制約と選択バイアス
一方で、共役性を満たす事前を選ぶことは、モデル表現を特定の形に制限しがちである。共役でない事前はしばしば計算困難になるため、実務では「計算可能性のための事前」になってしまうリスクがある。これにより、現実の不確実性や専門知識の表現が不十分になる選択バイアスが生まれることがある。
また、事前分布の形が固定されると、未知量の依存構造や複雑な制約（例えば多峰性、強い非対称性、複数レジームの存在など）を自然に表しにくい場合がある。共役事前は扱いやすい反面、モデルの表現力に対して代償を払うことになり得る。
4.3 共役でない事例への対応（近似・数値手法の位置づけ）
共役性が成り立たない、あるいは成り立っても現実に即した事前を表せない場合、ベイズ推論は近似や数値手法によって実行される。代表例としては、事後分布をサンプルで近似する手法、あるいは分布の形を仮定して最適化で近づける手法が挙げられる。
数値計算では、一般に正規化定数の評価や積分がボトルネックになるが、サンプリングや変分近似により実行可能性が高まる。共役事前を用いる場合と比べて計算コストや誤差評価が課題になりやすい一方、表現の自由度を確保できる点で有利でもある。したがって、近似・数値法は「共役性の不足を補うための実装上の選択肢」として位置づけられる。