確率質量関数の基本

定義と表記

確率変数と関数としての対応

確率質量関数(PMF)は、離散型確率変数 \(X\) のとり得る値 \(x\) に対して、その値が実現する確率 \(P(X=x)\) を与える関数である。通常、\(p_X(x)\) や単に \(p(x)\) のように書き、入力は確率変数の値、出力は確率の数値となる。離散型であることにより、確率は点(値)ごとに割り当てられる。

関数値の意味(確率としての解釈

PMFの値 \(p_X(x)\) は、事象 \(\{X=x\}\) の確率を表す。したがって、異なる値 \(x\) へのPMFの出力は相互に排反な事象の確率に対応し、同一の値に対する確率は一意に定義される。PMFは「起こりやすさ」を数値で表現するが、その数値は一般に直接観測される量ではなく、モデル仮定または推定手続きの結果として得られる。

基本性質

非負性

PMFは任意の \(x\) に対して \(p_X(x)\ge 0\) を満たす。これは確率が負にならないという基本要請に相当する。非負性が破れるような関数は、確率として意味を持てない。

総和が1であること

確率変数 \(X\) がとり得る全ての値集合(可算集合)に対し、PMFの総和が1となることが要求される。すなわち \[ \sum_x p_X(x)=1 \] が成立する。これにより、確率は「どれかの値が必ず起こる」ことを保証する。

取り得ない値での確率の扱い

確率変数が取り得ない値 \(x\) については、PMFの値は \(p_X(x)=0\) と置かれるのが一般的である。これにより、PMFを全体の数直線(あるいは整数全体)に拡張して扱う際でも、存在しない事象は確率0として整合的に扱える。

関連する概念との位置づけ

分布関数(累積分布)との違い

分布関数(累積分布関数、CDF)は、\(F(x)=P(X\le x)\) のように「上限まで含めた確率」を与える。一方PMFは点 \(x\) に対する「その点でちょうど起きる確率」を与えるため、両者は情報粒度が異なる。離散型の場合、CDFは階段状になり、各段の高さがPMFの値に対応する。

確率密度関数との対比

確率密度関数(PDF)は連続型確率変数に対して用いられる概念であり、値そのものが確率に等しいわけではない。連続型では確率は区間の長さに対する密度の積分で与えられるため、点の確率は0になり得る。PMFは離散的に「点の確率」を直接表すため、同じ数値の見方をしてはいけない。

代表的な分布とPMF

離散一様分布

PMFの具体形と解釈

離散一様分布では、有限個の値 \(\{1,2,\dots,n\}\) が等確率で現れる。したがって \[ p_X(x)=\frac{1}{n}\quad (x=1,\dots,n) \] となる。PMFは各点で同じ高さの「平坦な」形をとり、選択肢が対称である状況(例:公平なサイコロの目)を表す。

二項分布

事象の回数と確率の積み上げ

二項分布は、独立に行われる \(n\) 回の試行で成功が \(k\) 回起きる確率を表す。各試行で成功確率が \(p\)、失敗確率が \(1-p\) とするとPMFは \[ p_X(k)=\binom{n}{k}p^k(1-p)^{n-k}\quad (k=0,1,\dots,n) \] である。ここで \(\binom{n}{k}\) は成功の位置の取り方の数を表し、同じ回数 \(k\) を得るための異なる組合せを確率として合算した結果がPMFになる。

ポアソン分布

単位時間・空間あたりの計数の考え方

ポアソン分布は、一定の条件のもとで「単位時間・単位空間あたりに現れる事象の回数」を表すモデルとして用いられる。平均(強度)を \(\lambda>0\) とすると \[ p_X(k)=e^{-\lambda}\frac{\lambda^k}{k!}\quad (k=0,1,2,\dots) \] となる。成功回数の「組合せ」に基づく二項分布と異なり、到来が独立かつ頻度が一定という仮定から導かれる点が特徴である。

幾何分布

最初の成功までの試行回数

幾何分布は、成功が起きるまでの試行回数(定義の流儀により開始を含むかに注意)を扱う。各試行で成功確率が \(p\) のとき、最初の成功が \(k\) 回目に現れる確率として \[ p_X(k)=(1-p)^{k-1}p\quad (k=1,2,\dots) \] が与えられる。これは「最初の \(k-1\) 回は失敗し、最後に成功する」ための確率の積で構成される。

その他の代表例

超幾何分布

超幾何分布は、有限母集団から重複なしで選び、ある性質を持つ対象を \(k\) 個得る確率を表す。母集団に成功要素が \(K\) 個、失敗要素が \(N-K\) 個あり、抽出数が \(n\) なら \[ p_X(k)=\frac{\binom{K}{k}\binom{N-K}{n-k}}{\binom{N}{n}} \] となる。サンプル母集団から引き抜かれるため、独立試行ではなく依存が生じる点が本質である。

負の二項分布

負の二項分布は、成功が \(r\) 回に達するまでに必要な失敗回数(または試行回数)を扱う。成功確率が \(p\) のとき、失敗回数を \(k\) とする表現では \[ p_X(k)=\binom{r+k-1}{k}(1-p)^k p^r \] が典型的な形である(表記の定義により \(k\) の意味が変わる場合がある)。「成功回数が一定になるまで待つ」状況で現れやすい。

PMFの利用と計算

確率の求め方

点確率の計算

PMFが既に与えられている場合、点確率は \(p_X(x)\) の値そのものである。実務では、モデルのパラメータと対象の値を代入し、算出した数値が確率として解釈できるよう、非負性と総和条件が満たされている前提を確認することが多い。

複数値の和としての確率

事象 \(\{a\le X\le b\}\) のように「複数の値をまとめた」確率は、該当する値のPMFを足し合わせて求める。離散型では加法性がそのまま計算になり、 \[ P(a\le X\le b)=\sum_{x=a}^{b} p_X(x) \] のように表せる。和の範囲設定(整数のみ、負の値を含むか等)を誤ると結果が変わるため、取り得る値集合を意識した設計が重要になる。

期待値モーメント

期待値の計算式

期待値は、取り得る各値にその値が現れる確率を掛け、総和を取った量として定義される。離散型では \[ E[X]=\sum_x x\,p_X(x) \] である。有限回の値であれば単純な和になり、可算無限の範囲では収束が成立する条件が前提になる。

分散標準偏差導出

分散は \(Var(X)=E[(X-E[X])^2]\) に基づき定義されることが多い。計算上は \[ Var(X)=E[X^2]-\{E[X]\}^2 \] として整理すると実装が容易になる。標準偏差は \(\sqrt{Var(X)}\) で与えられ、値のばらつきの尺度として解釈しやすい。

代表的なモーメントの意味

一次モーメントは期待値に対応し、中心傾向を表す。二次モーメントは分散やばらつきの理解に関係する。より高次のモーメントは歪み(非対称性)や裾の厚みといった形状の特徴に結び付くが、実務では解釈と推定安定性の両方を踏まえて使い分けることがある。

周辺化条件付き確率

周辺分布の取り方

複数の確率変数 \((X,Y)\) を考えると、周辺分布は片方だけを見るためにもう一方を和で消去して求める。たとえば \(X\) の周辺PMFは \[ p_X(x)=\sum_y p_{X,Y}(x,y) \] で与えられる。観測の対象が一部に限られるとき、この操作が計算の基礎になる。

条件付き確率の表現

条件付き確率は、例えば \(P(X=x\mid Y=y)\) のように、条件が成り立つ下での分布を表す。条件付きPMFは \[ p_{X\mid Y}(x\mid y)=\frac{p_{X,Y}(x,y)}{P(Y=y)} \] の形で定義され、分母が0の場合はその条件が起こらないため別途扱いが必要になる。

条件付きPMFの扱い

条件が与えられた状況では、条件付きPMFを用いて「その条件下での期待値」や「その条件下での確率」を計算する。総和が1になるよう正規化が施される点が重要で、数値計算では丸め誤差により微小なズレが起こり得るため、実装上は許容誤差を設ける場合がある。

モデリング上の考え方

PMF設計の手順

データの離散化と値の定義

PMFを作るには、まず確率変数が取り得る値を具体的に定義する必要がある。連続量を扱う場合はビン分け(離散化)により値集合を決めるが、境界の置き方やビン幅は分布の形に強く影響する。設計では、目的変数として何を予測・説明したいのかに合わせて粒度を選ぶ。

パラメータの意味付け

多くの代表的分布では、PMFの形はパラメータで制御される。たとえば二項分布では成功確率、ポアソン分布では強度、幾何分布では成功確率などであり、パラメータが物理的・業務的な意味を持つ場合は解釈性が高い。推定したパラメータが現場の知見と整合するかも確認対象になる。

推定・検証(概念整理)

観測頻度からの近似

観測データが得られている場合、PMFは相対頻度から近似できることがある。たとえば各値の出現割合を用いると経験的PMFが得られる。モデル仮定を置くなら、推定は分布パラメータの当てはめとして行うことになる。

モデルの妥当性確認の観点

PMFが適切かどうかは、代表値(平均や分散)だけでなく、分布の形全体を通して評価する必要がある。予測を目的にする場合は、予測誤差や尤度ベースの指標を使うことがある。さらに、観測されにくい側の挙動が再現できているかも、意思決定に直結するため重要になる。

実務での落とし穴

確率が0になり得る値の扱い

特定の値が理論的に起こらない場合、PMFは0になる。0確率の扱いは、ログ変換や正規化、条件付き化で特に影響が出やすい。0が「真に不可能」なのか「サンプル不足で観測されなかっただけ」なのかを切り分ける方針が必要になる。

総和が1にならない設計ミス

実装や手計算では、和の範囲漏れや計算誤差により総和が1から外れることがある。総和が1でないと、確率としての整合性が崩れるため、チェックの手順を組み込み、必要に応じて正規化する。ただし正規化は「本当に0である」べき部分を動かしてしまう場合もあるため、原因の特定も併せて行う。

表記の混同(密度と質量)

PDFとPMFは表記が似ることがあるが、適用対象と計算のルールが異なる。密度は積分で確率に対応し、質量は和で確率に対応する。実務では「点での値をそのまま確率として使う」誤りが起こりやすいため、変数が離散か連続かを最初に確定させることが安全である。