1 基本概念
1.1 定義と確率的グラフィカルモデル
確率的ネットワークは、複数の確率変数間の依存関係をグラフ構造で表現する枠組みである。グラフのノードは各確率変数を表し、エッジは変数間の確率的な関係を示す。有向グラフによるベイジアンネットワークと無向グラフによるマルコフ確率場が代表的なモデルとして位置づけられる。確率的グラフィカルモデル全体の一分野を構成し、不確実性を扱う推論や学習の基盤を提供する。
1.2 確率論との関係
確率的ネットワークは、確率論の基本法則（確率の加法則、乗法則、条件付き確率）に依存する。グラフ構造は、変数間の条件付き独立性を簡潔に表現し、同時確率分布を因子分解する手段となる。ベイズの定理は推論の中心的な道具であり、観測データから未観測変数の事後確率を計算する際に用いられる。
1.3 歴史的背景と発展
確率的グラフィカルモデルの概念は、1980年代にJudea PearlやSteffen L. Lauritzenらによって体系化された。ベイジアンネットワークは因果推論の文脈で、マルコフ確率場は統計物理学の影響を受けて発展した。1990年代以降、計算機性能の向上とデータ量の増加に伴い、学習アルゴリズムや近似推論手法が急速に進展した。
2 代表的なモデル
2.1 ベイジアンネットワーク
2.1.1 構造と条件付き独立性
ベイジアンネットワークは有向非巡回グラフ（DAG）で表される。各ノードは確率変数に対応し、親ノードから子ノードへの有向エッジは直接的な依存関係を示す。グラフ構造は、各変数がその非子孫変数と与えられた親ノードの下で条件付き独立であるという局所独立性を保証する。これにより、同時確率分布は各変数の条件付き確率分布の積に分解される。
2.1.2 代表的な学習アルゴリズム
パラメータ学習では、最尤推定やベイズ推定が用いられる。構造学習では、スコアベース手法（BIC、AIC、ベイズスコア）や制約ベース手法（条件付き独立性検定）が代表的である。期待値最大化（EM）アルゴリズムは不完全データからの学習に適用される。
2.2 マルコフ確率場
2.2.1 ポテンシャル関数と分割関数
マルコフ確率場は無向グラフで定義される。各クリーク（完全部分グラフ）にはポテンシャル関数が割り当てられ、非負の値をとる。全体の同時確率分布は、全ポテンシャル関数の積を分割関数で正規化した形で与えられる。分割関数は全変数にわたる和または積分であり、計算上の主要な困難の一つである。
2.2.2 最大事後確率推定
最大事後確率（MAP）推定は、観測データが与えられた下で、最も確率の高い変数割り当てを求める問題である。マルコフ確率場では、グラフカットや信念伝搬などのアルゴリズムが用いられる。特に画像処理や自然言語処理のラベリング問題で広く応用される。
3 学習と推論
3.1 パラメータ学習
3.1.1 最尤推定
最尤推定は、観測データの尤度を最大化するパラメータ値を求める手法である。完全データの場合、各変数の条件付き確率分布のパラメータは、データ中の頻度から直接計算できる。不完全データの場合、EMアルゴリズムが標準的な枠組みとして利用される。
3.1.2 ベイズ推定
ベイズ推定では、パラメータ自体を確率変数とみなし、事前分布と尤度から事後分布を計算する。共役事前分布を用いると解析的に計算可能となる。ベイズ推定は過学習を防ぎ、不確実性を表現できる利点を持つ。
3.2 構造学習
3.2.1 スコアベース手法
スコアベース手法は、グラフ構造の品質を評価するスコア関数を最適化する。BIC（ベイズ情報量基準）やBDeuスコアなどが代表的であり、探索アルゴリズムとして貪欲山登り法や遺伝的アルゴリズムが用いられる。
3.2.2 制約ベース手法
制約ベース手法は、データから条件付き独立性の検定を行い、その結果に基づいてグラフ構造を構築する。PCアルゴリズムが代表例であり、統計的検定（カイ二乗検定やガウス検定）を繰り返し適用する。完全な有向グラフが復元できる保証はないが、計算効率が良い場合がある。
3.3 推論アルゴリズム
3.3.1 厳密推論（変数消去法）
変数消去法は、同時確率分布から特定の変数（群）を逐次的に消去することで周辺確率を計算する手法である。消去順序によって計算量が変わり、最悪の場合は指数時間となる。木構造のグラフでは効率的に動作する。
3.3.2 近似推論（MCMC、変分ベイズ）
マルコフ連鎖モンテカルロ法（MCMC）は、大量のサンプルを生成して期待値を近似する。ギブスサンプリングとメトロポリス・ヘイスティングス法が代表的である。変分ベイズは、真の事後分布をより単純な分布で近似する手法であり、計算の高速性が特徴である。
4 応用分野
4.1 機械学習とデータサイエンス
確率的ネットワークは分類、回帰、クラスタリングなどの教師あり・教師なし学習に利用される。特に欠損データの補完や異常検知など、不確実性を明示的に扱うタスクで効果を発揮する。
4.2 医療診断とバイオインフォマティクス
医療診断では、症状と疾患の因果関係をベイジアンネットワークでモデル化し、診断支援システムに応用される。バイオインフォマティクスでは、遺伝子発現データのネットワーク解析やタンパク質相互作用の予測に使用される。
4.3 情報検索と推薦システム
情報検索では、検索クエリと文書の関連性を確率的にモデル化する。推薦システムでは、ユーザーの嗜好とアイテムの特徴を確率的グラフィカルモデルで表現し、協調フィルタリングの枠組みとして利用される。
4.4 自然言語処理と音声認識
自然言語処理では、品詞タグ付けや構文解析に確率的ネットワークが応用される。音声認識では、隠れマルコフモデルが音響モデルと言語モデルの結合に使われ、不確実性を考慮したデコーディングを行う。
5 課題と将来展望
5.1 計算複雑性の課題
厳密推論や構造学習における計算量は一般にNP困難であり、大規模な問題への適用が困難である。近似手法の精度保証や効率的な収束性の理論解析が重要な研究課題となっている。
5.2 大規模データへのスケーラビリティ
ビッグデータ時代において、確率的ネットワークの学習と推論を大規模データに拡張する手法が求められている。分散計算やオンライン学習の導入、スパース構造の仮定などが有効な方向性とされる。
5.3 深層学習との融合と拡張
深層学習の表現力と確率的ネットワークの不確実性表現を組み合わせたモデルが研究されている。変分オートエンコーダーや生成敵対ネットワークとの関連付け、グラフニューラルネットワークとの統合などが将来の展開として注目を集めている。