1 経験分布の概念
1.1 定義と直観
1.1.1 相対度数としての確率
経験分布は、観測された有限個のデータから、各値(離散)あるいは各区間(連続)に属する頻度を数え、その比率を確率として割り当てたものを指す。標本数を $n$ とし、ある値 $x$ が $k$ 回現れたなら、経験確率は $k/n$ として表される。したがって経験分布は、理論的な母分布を直接仮定するのではなく、「実際に観測された出現割合」をそのまま確率に対応づける近似である。
1.1.2 離散データと連続データの扱い
離散的な変数では、取り得る値の集合が有限または可算であるため、値ごとに相対度数を割り当てればよい。一方、連続量の場合は同一値が繰り返されるとは限らず、値そのものへの割当ては直感的に不安定になりやすい。このため実務では、実数直線を区間に分割(ビニング)し、各区間に入ったデータ数の比率を確率として扱うのが一般的である。
1.2 経験分布の表現方法
1.2.1 経験確率
経験確率は、離散型の変数に対して各カテゴリや値に対応する相対度数を確率として表現する方法である。たとえば観測値が $\{x_1,\dots,x_n\}$ で、ある値 $a$ の出現回数が $k_a$ なら、経験確率は $k_a/n$ になる。区間に分ける場合には「経験確率」をビンごとの比率として定義し、ヒストグラムの各棒の高さに相当する量として利用できる。
1.2.2 経験分布関数
経験分布関数は、累積の形でデータの分布を記述する表現であり、与えられた閾値 $x$ に対して「観測値が $x$ 以下である相対頻度」を返す。たとえば $n$ 個の標本のうち $x$ 以下の個数を数えることで、経験分布関数は $0$ から $1$ へ単調に増加する階段状の関数として得られる。この累積形式は、分布の比較や近似の評価で扱いやすいという利点がある。
1.3 母分布との関係
1.3.1 標本分布としての位置づけ
経験分布は、母分布を推定するための「データに基づく代表像」として位置づけられる。厳密には、経験分布は標本から一意に定まるため確率変数ではなく、ただし標本そのものがランダムに抽出される以上、経験分布も反復実験のたびに形が変わる。つまり、推定対象としての母分布に対し、経験分布は標本に依存する可観測な推定量(あるいは推定のための手段)になる。
1.3.2 大数の観点からの意味
標本数が増えるほど、相対度数は母分布が与える確率に近づく傾向がある。直感的には、同じ現象をより多く観測することで出現割合のぶれが縮まり、経験分布が母分布の形をより正確に写すようになる。この性質は大数に関する考え方と整合し、経験分布は「標本サイズに応じて母分布へ近づく近似」を提供するものとして理解できる。
2 経験分布の作り方
2.1 離散型(カテゴリ・有限値)
2.1.1 値ごとの頻度計数
2.1.1.1 確率の割り当て(相対度数)
離散データでは、まず各カテゴリ(値)について出現回数を数える。標本数 $n$ に対し、値 $x$ の出現回数を $k(x)$ とすれば、経験確率は $k(x)/n$ で与えられる。これにより、全カテゴリに割り当てた確率の総和は $1$ になるよう構成される。実装ではカウント後に割り算を行うだけでよく、データの前処理が比較的単純である。
2.1.2 一意な値の整理と重複の扱い
離散値の集合を明確にするには、出現したユニークな値を列挙し、その集合上でカウントを行う。重複は「頻度」にそのまま反映され、繰り返し回数が多い値ほど経験確率が大きくなる。カテゴリの定義が曖昧(表記ゆれがある、粒度が粗すぎる)な場合は経験分布の解釈も変わるため、分類規則の統一が重要になる。
2.2 連続型(区間・ビニング)
2.2.1 ヒストグラムとの関係
連続値に対する経験分布の実務的な作成では、範囲をいくつかの区間に分割し、各区間に入るデータ数の比率を割り当てる。これにより得られる階層的な棒グラフがヒストグラムであり、棒の高さ(正規化の仕方は選択に依存する)によって分布の形が視覚化される。ビンごとの相対度数をそのまま確率として用いる形と、密度の近似を目指して区間幅で調整する形が混同されやすい点に注意が必要である。
2.2.2 ビン幅の選択と影響
ビニングの区間幅(ビン数)は、滑らかさと分解能のトレードオフを生む。ビンが細かすぎると、標本数に比べて区間ごとのデータが少なくなり、形が過度にギザギザになりやすい。逆にビンが粗すぎると、細かな構造が平均化され、分布の特徴が見えにくくなる。したがって目的(探索か推定か、尾の挙動を見るかなど)に応じた選択が望ましい。
2.3 サンプル数が少ない場合の注意
2.3.1 ゼロ頻度の扱い
標本が少ないと、特定の値や区間で観測が一度も起きないことがある。経験分布ではその箇所の確率が $0$ になるが、これを「母分布でも確率がゼロ」と解釈するのは誤りになり得る。ゼロ頻度は観測の不足を反映する場合があるため、推定や比較の場面では工夫(平滑化、事前情報の導入など)が必要になることがある。
2.3.2 分散と見かけの不安定性
経験分布は標本に強く依存するため、少数サンプルでは確率の推定誤差が大きくなる。離散値ではカテゴリ間の確率差が標本の偶然で大きく入れ替わり、連続値ではビニングの境界付近で観測がどちらの区間に入るかが結果を左右しやすい。このような揺らぎは欠陥ではなく、データ量に由来する不確実性として理解するのが適切である。
3 経験分布の性質
3.1 一般的な性質
3.1.1 正規化(確率の総和)
経験確率あるいはビンごとの相対度数で作られた経験分布は、通常の定義に従えば確率の総和が $1$ になる。離散型では全カテゴリに割り当てた比率の和が $1$ になり、連続型でも区間が分割全体を覆うよう設定すれば全ビンの合計が $1$ となる。累積形式の経験分布関数でも、十分大きい閾値では $1$ に到達し、小さい閾値では $0$ に落ちる。
3.1.2 単調性・非負性(経験分布関数)
経験分布関数は、定義により「閾値を上げるほど含まれるデータが増える」ため単調増加になる。加えて相対頻度は負になり得ないため非負性が成り立つ。これらの性質は、経験分布関数が単なるグラフの見た目ではなく、確率分布としての基本的な整合性(確率の意味を保つこと)を満たしていることを示している。
3.2 収束と漸近性
3.2.1 大数と経験分布
標本数が増大すると、経験確率や経験分布関数は母分布の対応する量へ近づく。直感的には、特定の値(または閾値)に対する出現割合が次第に安定化し、推定の揺れが小さくなるという現象である。大数はこの振る舞いを支える背景として理解でき、経験分布が標本に基づく推定として妥当な近似を与える根拠になる。
3.2.2 近似精度の考え方
どの程度の標本サイズで母分布の形をどれくらい正確に表せるかは、精度指標とデータ量に依存する。経験分布関数の最大誤差のような尺度を用いると、標本が増えるにつれて誤差が小さくなる見通しを議論できる。実務では理論的な収束に加え、分布の特徴(ピークの鋭さ、裾の厚さ)とビニングの設定が、観察される近似度に影響する。
3.3 代表的な指標
3.3.1 分布の距離(比較の枠組み)
経験分布どうし、あるいは経験分布と理論分布を比較する際には「どの程度一致しているか」を測る距離の考え方が使われる。代表例としては累積分布関数の差を評価する方法や、確率質量の移動量に注目する指標などがある。距離の選び方は目的に直結し、尾の差を重視するか、全体の形を均等に見るかで適した指標が変わる。
3.3.2 形状の要約統計量との関係
経験分布からは平均、中央値、分散、分位点などの要約量を計算できる。これらは分布全体を1つ(または少数)の数値で代表させる役割を持ち、経験分布の形を理解する足がかりになる。ただし要約量は情報を圧縮するため、分布の非対称性や多峰性といった特徴は、平均や分散だけでは捉えにくいことがある。したがって、要約統計量とグラフ的観察の併用が有効になる。
4 経験分布の応用
4.1 分布推定と可視化
4.1.1 経験分布関数による観察
経験分布関数を使うと、データの分布を累積の観点から観察できる。たとえば、ある閾値以下に入る確率がどれほどか、分布の中央付近(分位点)がどのあたりにあるかを読み取りやすい。階段状の形により、個々の観測値が分布に寄与している様子が見え、サンプルサイズが小さい場合にも不確実性の存在が視覚的に把握できる。
4.1.2 ヒストグラム/密度推定との連携
経験分布の考え方は、ヒストグラムやカーネル密度推定といった可視化・推定の手法と結びつく。ヒストグラムはビニングに基づき離散的な近似を提供し、密度推定は連続的な滑らかさを導入して形を補間する。経験分布が「観測された割合」という基礎を与えるのに対し、可視化手法はその基礎をどの表現形式で眺めるかに焦点を当てると整理できる。
4.2 検定・推論への利用
4.2.1 分布適合の考え方(枠組み)
経験分布は、データが仮定した理論分布とどれくらい整合するかを検討する枠組みに利用される。理論分布から計算される累積分布関数と、観測データから作った経験分布関数の差を評価することで、適合の良し悪しを判断する考え方が成立する。ここで重要なのは、評価の仕方が「何を重視するか」(全体の一致か、端の差か)によって変わる点である。
4.2.2 2つのデータの比較(経験分布同士)
異なる2つの標本から経験分布を作り、それらが似ているかどうかを比較することができる。比較の結果は「統計的にどれほど差があると見なせるか」という形で整理され、データ生成の違いの可能性を検討する材料になる。例えば、分布全体の位置や広がりの違い、特定領域での偏りといった要素が、経験分布の比較から読み取れることがある。
4.3 モデル評価・予測への活用
4.3.1 予測分布との照合
予測モデルが与える分布と、実際の観測から得られる経験分布を照合することで、モデルの妥当性を点検できる。予測分布が表す期待される累積の形と、実測の累積の階段が大きく乖離していないかを見ることで、モデルがどの範囲で当たりやすいかが分かる。これは誤差の内訳を直接示さない場合でも、少なくとも不一致の有無を判断する有用な手段になる。
4.3.2 外れ値や尾の観察
経験分布は、極端な値(外れ値)や分布の裾(尾)に関する観察にも適している。とくに経験分布関数の端部の立ち上がりや、ヒストグラムでのまれな区間の出現に注目すると、尾の重さやイベント頻度のズレを把握しやすい。予測分布と比べて尾側が過小評価・過大評価されている場合、リスク評価や意思決定に影響が出るため、この観点は実務上の重要度が高い。