1 経験的分布の概念

1.1 経験的分布の定義

経験的分布とは、有限個の観測値(標本)に基づいて作る確率分布近似である。ここでいう「経験的」とは、母集団理論的分布を仮定する前に、得られたデータそのものが示す頻度の構造を分布として表す、という意味を含む。したがって経験的分布は、標本に対して定義され、標本の取り方や規模によって形が変わる。

一般に、標本から得られる相対的な出現頻度を集計し、それを確率とみなすことで分布を構成する。離散的な値をとる場合は出現回数、連続的な場合は区間ごとの相対頻度や累積形が用いられる。これにより、母集団分布を直接は観測できない状況でも、データが持つ偏りやばらつきを分布の言語で捉えられる。

1.2 標本と相対度数の関係

標本が \(x_1, x_2, \dots, x_n\) のように与えられているとき、経験的分布は「各値(あるいは区間)がデータ中でどれだけの割合で現れたか」という相対度数に基づいて作られる。相対度数とは、対象が標本中に出現した回数を標本サイズ \(n\) で割った量であり、確率の経験的対応物と見なせる。

この対応により、経験的分布はデータの集計表現として具体化される。たとえば離散値であれば、各カテゴリが何回観測されたかを数えて全体で割る。連続値であれば、値域を区間に分け、各区間内の観測数を同様に全体で割る。いずれの場合も、相対度数は標本に内在する統計量であり、分布の各成分(確率や累積確率)を与える役割を担う。

1.3 経験分布関数の考え方

連続値を含む状況でよく用いられるのが、経験分布関数(経験累積分布)である。これは、しきい値 \(x\) 以下の観測値が標本の中で占める割合を累積として表す考え方に基づく。

直感的には、標本を数直線上に並べ、ある位置より左側にある点の割合を「その位置までの確率」として定める構成である。累積の形は、値域全体の形状を一覧しやすく、離散・連続のどちらのデータに対しても同一の枠組みで定義できる点が利点となる。さらに、経験分布関数は後続の推論推定・検定)において基礎となる理論的性質を持ちやすい。

2 表現方法と具体形

2.1 離散型の経験的分布

離散型では、値が有限個のカテゴリまたは可算の点に限られる。経験的分布は「カテゴリごとの相対度数」を並べる形として自然に表現でき、確率質量関数に相当する形を持つ。

標本がカテゴリ集合に属する場合、経験的分布は各カテゴリの出現割合で定義される。カテゴリ間の比較や、特定の値の頻度が大きい/小さいといった要約に向いている。

2.1.1 相対度数分布

相対度数分布とは、離散値の各カテゴリについて相対度数(観測回数の割り算)を割り当てた経験的分布である。

2.1.1.1 出現回数と確率推定の対応

カテゴリ \(k\) が標本中に \(n_k\) 回現れたとする。このとき経験的確率は \(n_k/n\) として定義される。これは「そのカテゴリが起きる確率を、標本における出現割合で見積もる」という対応を意味する。

結果として、相対度数は確率推定の最も基本的な形になり、母集団分布の未知部分をデータから埋める役割を果たす。標本が十分に増えると、この経験値が安定していく方向性が理論的背景として整備されているため、推論の入口として位置づけられる。

2.2 連続型の経験的分布

連続型では、単一点に対する出現頻度を厳密に数えることが難しい。したがって分布を表す際には、値域を区間に分割して集計する方法や、累積形を用いる方法が中心になる。

連続値の経験的分布は「区間内に入る確率」を相対頻度として組み立てることで構成される。これにより、連続変数の分布の形(集中の場所、裾の広がり)を視覚化可能な形で捉える。

2.2.1 区間頻度(ヒストグラム的表現)

値域を区間幅で区切り、各区間に落ちる観測数の割合を計算することで、区間頻度として経験的分布を表す。ヒストグラムはこの発想に基づく代表的な可視化である。

区間ごとの相対頻度を縦軸に取ることで「その帯域に入る比率」を読むことができる。区間を細かくすれば形状はより詳細になるが、標本数が不足していると空白や鋸状の変動が目立ちやすい。逆に区間を広くすると安定性は増すが、細かな構造が平均化される。

2.2.2 経験分布関数(累積の表現)

経験分布関数は、しきい値に対する累積割合として与えられる。具体的には、\(x\) 以下の観測値の個数を標本サイズで割った量を用いる。

この表現は、ヒストグラムのような区間分割の選択に依存しにくいという利点がある。さらに累積として滑らかさはないものの、値を連続的に走査したときの「占有の度合い」を一貫した尺度で示せる。加えて、さまざまな距離尺度検定統計量の定義に自然に接続しやすい。

2.2.3 帯域幅・区間幅が与える影響

連続型で区間頻度を使う場合、区間幅は結果の見え方を強く左右する。区間幅が小さいと分解能が上がる一方で、各区間に含まれる点の数が少なくなり、偶然の変動(サンプル誤差)が目立ちやすくなる。区間幅が大きいと変動はならされるが、分布の局所的な山や谷が平坦化される。

このため、経験的分布を区間頻度で扱う際は、標本サイズとのバランスや目的(粗い要約か、細部の検出か)を考慮する必要がある。帯域幅の選択は、同じデータでも異なる結論に見える可能性を持つため、可視化の際には条件を明記することが実務上重要となる。

3 性質と理論的背景

3.1 標本サイズによる変化

経験的分布は標本サイズに応じて変化する。小さな標本では、たまたま多く出現した値や偶然の偏りが相対頻度に強く反映される。標本を増やすと、頻度の揺らぎがならされ、見積もりが安定する傾向が現れる。

この変化は単なる経験則ではなく、確率論に基づく収束の概念として理解できる。要するに、標本に含まれる情報が増えるほど、経験的な確率見積もりが母集団分布の性質に近づく方向を持つ。

3.2 濃度や分散などの推定との結びつき

経験的分布は、分布の形だけでなく、そこから計算される要約統計量と結びついている。たとえば相対頻度を用いて平均や分散を計算すれば、それは経験的分布に基づく統計量となる。

連続型では、区間頻度や経験分布関数を介して分位点(どの位置までが累積で何割か)を読み取り、濃度や散らばりの特徴を推定できる。つまり、経験的分布は「データを分布として再表現し、その表現から要約量を導くための中間構造」として働く。

3.3 収束・近似としての位置づけ

経験的分布は、母集団分布の近似として位置づけられる。厳密には、どの意味で近づくか(点ごとの確率、累積確率、関数としての近さなど)が問題設定により異なるが、共通しているのは「標本が増えると一致へ近づく」という性質である。

この観点から、経験的分布は単なる記述に留まらず、推論のための橋渡しとして理解される。統計量の妥当性や不確実性の扱いに、経験的分布の収束性が背景を提供する。

3.3.1 大数的な直観

大数の法則に関連する直観として、独立に同様な分布から標本を取る状況では、相対度数が真の確率へ近づくと考えられる。経験的分布はこの直観を「分布の全体像」として実装したものと捉えられる。

分かりやすく言えば、ある集合(ある値の範囲)に入る確率を推定するとき、標本中の割合が増加のたびに安定していく。これが経験分布関数の累積形として現れ、分布全体の近似精度が向上する方向性を支える。

3.4 ランダム性とブレ(サンプル誤差)

経験的分布は標本から計算されるため、当然ながらランダム性がある。たとえ母集団の分布が固定されていても、標本は取り方によって頻度が変わり、その結果として経験的分布の各成分も揺れる。

この揺れをサンプル誤差として捉え、どの程度のズレが自然なのかを評価する枠組みが必要になる。推定では誤差の幅(不確実性)が重要になり、検定では観測されたズレが偶然の範囲に収まるのかを判断することになる。したがって、経験的分布の近さは常に「誤差を伴う近似」として扱われる。

4 応用分野

4.1 推定(パラメータ推定の前段)

経験的分布は、パラメータ推定の前段として用いられることが多い。たとえば、ある分布族(正規分布など)を仮定する場合でも、初期の分布形の把握やモデル選択の手がかりとして、経験的分布が利用される。

また、経験的分布から分位点や累積確率を読み取れば、分布族の当てはめに必要なスケールの見当をつけられる。推定の手順を安定させるためのデータ駆動の要約として機能する点が特徴である。

4.2 検定(分布の比較)

検定においても経験的分布は中心的役割を果たす。目的は、観測された分布が仮説上の分布と整合的か、あるいは二つのデータ集合の分布が同じ性格を持つかを評価することにある。

経験分布関数を用いる検定は、累積形の差を尺度として比較しやすい。見える差が小さくても標本サイズが大きいと統計的には意味を持つ場合があり、その逆もあり得るため、経験的分布の差を確率的な文脈へ接続する統計理論が必要になる。

4.3 可視化(データ分布の理解)

経験的分布は、データ分布の理解を助ける可視化の核となる。ヒストグラムや経験分布関数プロットは、分布の集中、裾の重さ、偏り、外れ値の存在などを直感的に示す。

特に、パラメトリックな仮定(特定の形を事前に決める)を置く前に、まずはデータがどんな形をしているかを観察できる。可視化の結果はモデル化の方針や追加の前処理(変換、ロバスト手法の導入など)を決めるための根拠にもなる。

4.4 機械学習での役割(経験ベースの分布近似)

機械学習では、経験的分布は「データ集合が暗黙に定義する分布の近似」として広く使われる。学習アルゴリズムはデータから目的関数を最適化するため、しばしば経験的な分布(あるいはそのサンプルとしての平均)を通じて期待値計算を置き換える。

たとえば損失の期待値を考える場面では、母集団平均の代わりに経験的な平均を用いる考え方が現れる。結果として、学習の更新は経験的分布に基づく近似推定として解釈できる。さらに分布距離や生成モデルの評価でも、観測されたサンプルを分布の代表として扱う枠組みに接続する。