1 確率分布の概観

1.1 確率分布の定義

確率分布とは、確率変数が取りうる値(または値の集合)に対して、それぞれの生起の度合いを確率として割り当てる枠組みである。試行の結果は不確実でありながら、十分に繰り返したときの“傾向”を数値化して記述できる。この記述が確率分布である。

形式的には、確率変数を介して分布を与える方法と、確率測度として直接記述する方法がある。多くの応用では、期待値分散などの統計量計算に直接つながる表現(密度質量分布関数)が用いられる。

1.2 確率変数との関係

確率変数は、実験結果から数値(または離散的なラベル)を割り当てる写像である。確率分布は、その確率変数の値の取り方に関する情報をまとめたものとして理解できる。

例えば、サイコロの目を表す確率変数を考えると、1〜6の各値に割り当てられる確率の体系が分布に相当する。連続量(計測誤差や待ち時間)を扱う場合は、値の“密度”として表現されることが多い。

1.3 表現方法の全体像

確率分布は、扱う変数の種類によって主に次の形で表される。離散的な場合は確率質量関数、連続的な場合は確率密度関数が基本となる。どちらにも対応する共通の考え方として、分布関数(累積分布)が挙げられる。

また、同じ分布でも利用目的により表現が変わる。推定推論では密度の計算が中心になりやすく、確率の比較閾値判定では分布関数が扱いやすい。さらに、多数の確率変数を同時に扱うときは同時分布、解析を簡単にするための周辺化条件付けにより別の分布へ整理する。

2 離散型の確率分布

2.1 確率質量関数

2.1.1 和と正規化

確率質量関数は、確率変数が特定の値をとるときの確率を与える関数である。離散的な値集合 \(\{x\}\) に対し、確率は非負で、総和が1になるという性質を満たす。

具体的には、確率質量関数 \(p(x)\) に対して \[ p(x)\ge 0,\quad \sum_x p(x)=1 \] が必要である。ここで“和が1になる”条件が正規化に相当し、分布としての妥当性を保証する。

2.1.2 グラフによる直感

確率質量関数は、値ごとの確率を棒の高さとして描くことで直感的に理解できる。確率が大きい値ほど棒が高く、そうでない値は低い。分布の“形”は、中心に集中するか、両端に広がるか、歪みがあるか、といった特徴として読み取れる。

グラフ上では、確率の合計が1になるため、個々の棒の高さだけでなく“分布全体のバランス”に注目する必要がある。これは、後に期待値や分散を計算するときの直感にもつながる。

2.2 主な離散分布

2.2.1 一様分布

一様分布は、離散集合の各要素が同じ確率で選ばれる状況を表す。取りうる値が有限であれば、各値の確率は \(1/n\) の形になる(\(n\) は要素数)。直感的には、“どれも同じくらい起こりやすい”という仮定に対応する。

応用では、特定の規則がないまま候補を均等に扱うモデル化に用いられることがある。ゲームの目の扱いや、ラベルのランダム選択などが例として挙げられる。

2.2.2 二項分布

二項分布は、同じ確率で起こる事象を独立に \(n\) 回試行し、その成功回数が \(k\) である確率を与える分布である。試行ごとの成功確率を \(p\) とすると、確率は組合せと成功・失敗の確率の積により表現される。

この分布は“固定回数”の枠組みで使いやすい。たとえば、検査で合格・不合格が各回独立に発生し、所定回数のうち何回合格するかを扱う場面に合う。

2.2.3 ポアソン分布

ポアソン分布は、一定の時間や空間の区間において、平均発生率に従って“起こり得る回数”を表すモデルである。単位区間あたりの平均発生数をパラメータ \(\lambda\) として、ある回数 \(k\) が観測される確率が与えられる。

二項分布の極限として導かれる形で現れることが多く、低確率の事象が多数の機会に分散して起きる状況に適合しやすい。計数データ(一定時間内の到着数、欠陥数など)でよく使われる。

2.3 分布の特徴量

離散分布の分析では、分布の“要約”として特徴量を用いる。代表的には期待値(中心の位置)と分散(ばらつきの大きさ)が挙げられる。これらは確率質量関数から直接計算でき、複数の分布を比較する際に役立つ。

さらに、分布の形を反映する指標として歪度や尖度が使われることもある。これらは、平均の周りにどの程度左右非対称か、極端な値がどれほど起こりやすいか、といった情報を補う。

3 連続型の確率分布

3.1 確率密度関数

3.1.1 面積としての確率

確率密度関数は、連続値をとる確率変数に対し、その“密度”を与える関数である。連続では、特定の単一点をとる確率は理論上0になるため、確率は値そのものではなく区間に対して定義される。

区間 \([a,b]\) に対する確率は、密度関数 \(f(x)\) の積分として \[ P(a\le X\le b)=\int_a^b f(x)\,dx \] で与えられる。したがって密度の大きさは“確率の面積”として解釈される。

3.1.2 正規化条件

密度関数は、取りうる全範囲にわたって面積が1になる必要がある。これは確率としての総量が保存されることを意味する。

具体的には \(f(x)\ge 0\) を満たし、全域で積分すると \[ \int_{-\infty}^{\infty} f(x)\,dx = 1 \] が成立する。有限区間で定義される場合は、その区間全体で面積が1になるように正規化される。

3.2 主な連続分布

3.2.1 一様分布(区間)

連続の一様分布は、ある区間の中で値が均等に現れると仮定するモデルである。区間 \([a,b]\) 上で密度は一定値をとり、その値は確率総量が1になる条件から決まる。

密度が一定であることは、区間内部のどの部分も同程度の確からしさであるという意味を持つ。事前分布としての利用など、情報が乏しいときの素朴な仮定として登場することもある。

3.2.2 正規分布

正規分布は、平均と分散をパラメータとして持つ代表的な連続分布である。ベル型の曲線を描き、中心付近が最も高密度になる。分布は左右対称で、ばらつきの大きさに応じて裾が広がる。

多くの測定値や誤差が“複数の小さな要因の合成”として現れるときに近似として現れやすく、統計推測の基盤にもなっている。標準化によって議論が簡潔になる性質を備える。

3.2.3 指数分布

指数分布は、ある事象が起こるまでの待ち時間をモデル化するのに用いられる。主な特徴として、待ち時間が経過しても“次に起こるまでの性質が一定”に近い振る舞いを持つ(記憶のない性質として知られる)。

密度は時間とともに単調に減少し、短い時間で起こりやすく長い時間ほど起こりにくい形になる。到着時刻や故障までの時間など、時間に関する計数過程の近似に適している。

3.3 分布関数(累積分布)の役割

分布関数(累積分布)は、値がある閾値以下になる確率を与える関数である。連続・離散を問わず扱えるため、分布の統一的な記述に役立つ。

累積分布は単調増加で、下限では0、上限では1へ近づく。確率計算では、区間確率を累積分布の差として表せるため、計算手順が整理される。特に連続の場合、密度との関係は微分や導関数を通じて現れる(一般に密度が存在する場合)。

4 分布の性質と操作

4.1 期待値・分散

期待値は確率変数の平均的な位置を示す量であり、分散は変動の大きさを表す。離散では和、連続では積分によって定義され、分布が与えられれば計算できる。

期待値は線形性を持つため、複数の量を組み合わせたときの評価に利用しやすい。分散は平均からの隔たりを基に定まり、独立性などの条件があると計算が単純化する。これらは学習や推定で損失や誤差の尺度を設計する際にも基礎となる。

4.2 条件付き確率と条件付き分布

条件付き確率は、ある事象がすでに起こったという前提のもとでの確率を意味する。条件付き分布は、確率変数に対して同様の条件を課したときの分布として定義される。

条件付けにより、“不確実性の残り”を対象に即して調整できる。例えば、観測結果の一部が分かっているなら、その情報を反映して推論を更新することになる。条件付きの形はベイズ的更新の基礎とも関連し、モデル選択やパラメータ推定の整理に用いられる。

4.3 周辺分布と同時分布

同時分布は複数の確率変数を同時に扱い、それぞれの組み合わせが起きる確率(または密度)を与える。周辺分布は、他の変数を“捨てる”操作(周辺化)によって単独の変数に焦点を当てた分布である。

周辺化は、離散では和、連続では積分として表現される。これにより、観測可能な量だけを取り出して議論できる。逆に同時分布が分かっていると、必要に応じて各変数の分布や相互関係を導ける。

4.4 変数変換と分布の写像

変数変換は、確率変数の別の表現を導入するときに使う考え方である。たとえば確率変数 \(X\) を単調な関数 \(Y=g(X)\) に変換すると、\(Y\) の密度や分布関数は変換則により求められる。

連続の場合はヤコビアン(導関数の絶対値を含む)によって密度が調整される。変換により解析が簡単になることがあり、標準化や対数変換などがその例である。離散の場合も写像により新しい分布が得られるため、状態のまとめ直しに応用できる。

4.5 畳み込みと和の分布

畳み込みは、独立な確率変数の和の分布を扱う際に重要になる操作である。離散では、起こりうる組み合わせの確率を対応させて和を計算する形になり、連続では積分を介して同様の概念が実現される。

直感的には、和 \(Z=X+Y\) がある値になるには、\(X\) と \(Y\) の取り方が合計してその値になる必要がある。その条件を満たす全ての寄与を集めたものが畳み込みの結果として現れる。独立性があるときに特に扱いやすく、中心極限定理の背景にも関わる代表的な構成要素となる。