1 確率密度関数の基本概念
1.1 定義と区間確率
確率密度関数（PDF）は、連続型確率変数が特定の範囲に入ることを、関数の形で表すための道具である。連続型では「ちょうど一点に等しい」事象は確率0となるため、確率は単点ではなく区間として定義される。区間 \([a,b]\) に入る確率は、PDF をその区間で積分した値として与えられる。これにより、密度の高さが高い場所ほど、その近傍で値が観測されやすいことが直感的に理解できる。
1.2 正規化条件（全確率が1）
確率密度関数は、どの値にも必ず分布するという要請を満たす必要がある。その要請は、全体領域での積分が 1 になることとして表される。
1.2.1 非負性の要請
PDF は、確率の増減を表すため、領域によって負の値を取れない。負の値が許されると、積分したときに確率としての意味を失うため、定義上は非負でなければならない。したがって PDF は「密度」であり、その値は局所的な重みを表す量として扱われる。
1.2.2 積分による確率計算
分布の対象となる値域を全て含む範囲で PDF を積分すると、必ず総和として 1 になる。さらに、任意の区間 \([a,b]\) に対しては、その区間の積分が対応する確率になる。計算の基本形は、累積量を得たいときに積分が自然に現れる、という構造にある。
1.3 連続型と離散型の違い
連続型と離散型では「確率の置き方」が異なる。離散型では、値が取り得る点それぞれに正の確率が対応するため、確率は和で表される。一方、連続型では個々の点の確率が 0 になるため、確率は区間積分で与えられる。結果として、モデルの設計や評価では、和か積分かという数学的形式の違いが重要になる。
2 確率密度関数と関連する関数
2.1 分布関数との関係
確率密度関数は単独でも使えるが、しばしば分布関数とセットで理解される。分布関数は「ある値以下になる確率」を表す。
2.1.1 分布関数の微分としての密度
連続型の場合、分布関数 \(F(x)\) は PDF \(f(x)\) の積分として定義される。逆に、PDF は分布関数を微分したものとして表せる。つまり、累積（積分）と局所的な密度（微分）が対応関係にある。これにより、分布全体の挙動を積み上げた結果が密度の形状と整合することが保証される。
2.2 サバイバル関数・ハザード関数
生存解析や信頼性工学では、「ある時点までに事象が起きない確率」や「その瞬間の起こりやすさ」が重視される。そこで使われるのがサバイバル関数とハザード関数である。
2.2.1 生存関数の定義
生存関数は、時間 \(t\) において事象がまだ起きていない確率を表す。一般に、サバイバル関数は分布関数の補集合として与えられるため、PDF とも整合する形で表現できる。時間が増えるほど未発生である確率は減少傾向になりやすく、この減り方がモデルの性質を反映する。
2.2.2 ハザード関数の意味
ハザード関数は、時刻 \(t\) において「まだ起きていない条件のもとで」直後に事象が発生する相対的な速さを表す量である。直観的には、生存曲線の落ち込み方を時間局所で言い換えた指標に近い。ハザード関数は、PDF とサバイバル関数から構成され、モデルの設計や比較で用いられる。
2.3 条件付き分布と条件付き密度
条件付き分布は、ある条件が成立しているときに従う確率分布を表す。連続型では条件付き密度が中心となり、条件の下での値のばらつきを表現する。条件付き密度は、同時分布や周辺分布との関係を通じて導かれ、未知パラメータ推定や予測の基礎になる。
3 主な性質と計算手法
3.1 期待値の計算
PDF によって期待値（平均的な値）が定義される。任意の関数 \(g(X)\) の期待値は、密度を重みとして積分で計算する。
3.1.1 一般の関数の期待値
連続型確率変数 \(X\) の期待値は、\(\mathbb{E}[g(X)] = \int g(x) f(x)\,dx\) の形で与えられる。ここで \(g(x)\) は観測量に対する変換や指標として解釈できる。積分可能性の条件が満たされるときにこの式は成立し、モデルの評価や損失の設計に直接関わる。
3.1.2 モーメントと中心モーメント
モーメントは期待値の特別な形であり、分布の形状を数値として要約する。たとえば原点まわりのモーメントは \(X^k\) の期待値である。中心モーメントは平均からのずれに基づく量で、歪度や尖度のような高次の特徴を表す際に用いられる。これらは密度の形を直接見る代わりに、統計量として情報を圧縮する役割を持つ。
3.2 分散・標準偏差
分散は平均の周りでどれだけ広がっているかを示す代表的指標である。標準偏差は分散の平方根であり、元の単位に戻したばらつきの大きさを表す。
3.2.1 分散の導出
分散は \(\mathrm{Var}(X)=\mathbb{E}[(X-\mu)^2]\) として定義され、密度を用いると積分で計算できる。計算上は \(\mathbb{E}[X^2]-\mu^2\) に整理されることも多く、実装では後者の形を用いて数値計算の安定性を確保することがある。
3.2.2 変動の解釈
分散が大きいほど、値は平均から大きく離れやすい。逆に小さい場合は、分布が平均付近に集中していることを意味する。標準偏差は分散より直感的であり、推定や予測の誤差評価における尺度として頻繁に採用される。
3.3 尤度・確率密度の読み取り
尤度は、観測データが得られたときにモデルがどれだけ整合的かを測る量で、密度関数がその基礎になる。連続型では観測値そのものの確率は 0 だが、密度の値はモデル比較のための指標として使われる。実務では、対数尤度を扱うことで計算の扱いやすさが増す。
3.4 変数変換とヤコビアン
分布を別の変数に写すとき、密度は単に置き換えるだけでは変形される。変換の際に必要になるのがヤコビアンである。
3.4.1 単変数の変換公式
単変数で \(Y=g(X)\) のように変換する場合、密度 \(f_X(x)\) から \(f_Y(y)\) を求めるには、変換の傾きが関与する。微分の大きさ（ヤコビアンに相当する要素）が、長さの伸縮率として働き、密度が補正される。単調性がある場合は対応関係が一意になり、複数分岐がある場合は寄与を合算する。
3.4.2 多変数の変換公式
多変数では、空間の体積要素がヤコビアン行列の行列式で変わる。結果として、密度は変換による体積の変形を補う形で更新される。これにより、幾何学的な整合性が保たれ、座標系の違いに依存しない確率の解釈が維持される。
4 代表的な確率密度関数と用途
4.1 正規分布
正規分布は多くの現象で基礎モデルとして使われる代表的な連続分布である。
4.1.1 パラメータの意味（平均・分散）
正規分布は、平均と分散によって完全に特徴づけられる。平均は中心位置を示し、分散はばらつきの大きさを決める。形状はこの2つの量で調整され、対称性を持つため解析や推定の理論が豊富に整備されている。
4.1.2 総括的な利用場面
観測誤差が合成的である状況、加法的なノイズを含む回帰、分布の近似など幅広く登場する。特に線形モデルでは、正規性仮定が推定手順と計算効率に強く関係するため、実務上の採用例が多い。
4.2 一様分布
一様分布は、指定した区間のどの位置でも起こりやすさが同程度になる分布である。
4.2.1 区間上の密度
一様分布では密度が区間内で一定になり、区間の長さによってその定数値が決まる。区間外は密度が 0 であるため、積分すると確率が 1 になるように密度の水準が調整される。この性質は「情報が等しく乏しい」状況の簡便な近似として利用されることがある。
4.3 指数分布
指数分布は、待ち時間や寿命など「ある率で起こる事象」に対する代表的モデルである。
4.3.1 待ち時間のモデル化
指数分布は、待機時間が特定の発生率に従うと仮定する場面で用いられる。ハザードの形が時間によらないため、事象の発生が一定の条件のもとで継続的に起きるという仮定を表現できる。故障モデルやキューイングの基礎として現れる。
4.4 ガンマ分布・ベータ分布
ガンマ分布とベータ分布は、それぞれ形状に柔軟性を持ち、さまざまな形の密度を表現する。
4.4.1 形状に応じた柔軟なモデリング
ガンマ分布は待ち時間の和として現れることがあり、分布形状を形パラメータと尺度パラメータで調整できる。ベータ分布は区間 \([0,1]\) に定義され、確率や割合といった量の不確実性を表すのに適している。これらは密度の形を状況に合わせて変えられるため、実データへのフィットやベイズ推論での利用が多い。
4.5 多変数確率密度関数
多変数では、対象が複数の連続量から成るため、密度は領域内の体積に対応する重みとして扱われる。
4.5.1 周辺化（marginalization）
周辺化は、ある変数を「観測せずに」他の変数の分布だけを取り出す操作である。具体的には、不要な変数の成分について密度を積分することで得られる。これにより高次元の同時分布から、必要な低次元の情報を抽出できる。
4.5.2 共分散との関係
多変数の関係性は、平均だけでなく共分散で要約される。共分散行列は各成分の同時の変動を表し、変数間の相関がある場合にはオフダイアゴナル項に情報が現れる。密度の形状が線形近似的にどう広がるかを理解する手がかりになる。
4.6 推定や学習での位置づけ
機械学習や統計推論では、密度はデータ生成のモデルとして扱われることが多い。推定ではパラメータを決め、学習ではデータに適合するように調整する。
4.6.1 最尤推定との関係
最尤推定は、観測データに対して密度（あるいは確率モデル）を最大化するパラメータ推定である。連続型では対数尤度が頻用され、パラメータの最適化問題として整理できる。モデルの選択や正則化の議論とも結びつきやすい。
4.6.2 ベイズ推論における密度の役割
ベイズ推論では、密度は事前知識とデータの整合性を結び付ける中核として働く。事後分布は尤度と事前分布の積に比例して定まり、正規化定数を通じて確率として解釈可能になる。結果として、不確実性を分布の形で保持しながら予測や意思決定が行える。