1 有効サンプル数の概念
1.1 定義と直感
有効サンプル数(effective sample size, ESS)は、観測や対象の「総数」をそのまま採用せず、推定に使われる情報量がどれほど独立に増えているかを反映した換算量として扱う指標である。直感的には、相関や重み付け、欠測、クラスタ構造などによって実質的な情報が目減りする状況では、見かけ上のサンプル数よりも小さい数として現れる。
1.2 目的:分散・標準誤差との関係
ESSの中心的な役割は、推定量のばらつき(分散)や標準誤差が「独立同分布で得られる同等の情報量」に置き換えられるように基準化する点にある。同じ推定対象でも、データの性質が変われば分散が変わり、その変化を説明する尺度としてESSが用いられる。
1.2.1 「実質的な独立性」の考え方
理想化された状況では、独立な観測が増えるほど分散が減りやすい。しかし実データでは、同じクラスタに属する個体間の類似、時間的な連続性、重みの集中、欠測メカニズムの影響などにより、情報が増える度合いが鈍る。この鈍りを「独立性の喪失」としてまとめ、同等に独立な観測数へ換算する発想がESSの核となる。
1.2.2 情報量としての解釈
ESSは単なる便宜的な数ではなく、推定に関わる情報の有効な蓄積量として解釈できる。たとえば、重み付けで多数の観測がほとんど寄与しない場合や、欠測によって観測集合が偏る場合、情報は「人数」だけで増えない。その結果、分散に基づく同等情報量が小さくなり、ESSも低下する。
1.3 単純なサンプル数との差
単純なサンプル数(n)は観測の数を表すが、推定の精度に直結するとは限らない。ESSは、その精度に対応する分散の大きさから逆算されるため、相関や不均一性が強いほどnと乖離する。一般に、nが同じでもESSは変動し、逆にESSが同じでもnは異なることが起こり得る。
2 有効サンプル数の算出方法
2.1 重み付けサンプルの場合
重み付けが導入される場面では、各観測の寄与度が一様でない。すると、分散の増え方は単純なnに基づかず、重みのばらつきに強く影響される。そこでESSは、重みの不均衡がもたらす分散増大を相殺する形で定義・換算されることが多い。
2.1.1 重みのばらつきによる低下
重みが均等なら情報は素直に蓄積するが、少数の観測に重みが集中すると、他の観測の情報はほとんど活用されない。結果として、同等に独立な観測数に換算したときの値が小さくなる。重みの散らばりは分散を押し上げる要因であり、ESS低下の中心メカニズムとして扱われる。
2.1.1.1 平均二乗重み(代表的な算出式)
重要な代表例として、正規化された重み \(w_i\)(総和が1になる設定)を用いる場合の近似がある。しばしば次の形でESSが与えられる。
- \( ESS \approx \dfrac{1}{\sum_i w_i^2} \)
この式は、重みが均等(全てが \(1/n\))のときに \(ESS=n\) に戻り、重みが偏るほど \(\sum_i w_i^2\) が増えてESSが減ることを反映する。
2.2 欠測・不完全データの場合
欠測があると、利用できる観測集合が減るだけでなく、欠測がどのように起きたかによって推定の偏りや分散が変化する。欠測がランダムに近い条件の下では、単純に観測数が減る以上の悪化がないこともあるが、一般にはモデル化された欠測メカニズムや補完戦略(除外、補完、重み付けによる逆確率など)に応じて分散が決まる。そのためESSの算出は、欠測を扱う手法と整合する形で定義されるのが重要となる。
2.3 相関・クラスタ・層化がある場合
相関やクラスタ構造があると、個体間の情報は完全には独立にならない。層化やクラスター抽出の設計が導入される調査では、分散が理想的な単純無作為抽出より大きくなることがある。この増大を調整する枠組みとして、デザイン効果を介した換算が用いられることが多い。
2.3.1 デザイン効果を介した換算
デザイン効果(design effect)を \(DEFF\) とし、単純推定に比べて分散が \(DEFF\) 倍になるとモデル化するなら、ESSは次のように表される場合がある。
- \( ESS \approx \dfrac{n}{DEFF} \)
ここで \(n\) は見かけのサンプル数で、クラスタ内の類似(イントラ・クラスタ相関など)や層化の設計が \(DEFF\) を押し上げると、ESSは減少する。この考え方は、分散に基づく基準化として分かりやすい。
2.4 回帰・推定モデルに依存する場合
回帰や一般の推定モデルでは、推定量の分散は設計行列、共変量の分布、推定方式(最尤、頑健分散、正則化など)に依存する。したがってESSは「nの単純換算」ではなく、モデルから導かれる分散の大きさを手がかりに定義されることが多い。
2.4.1 推定量の分散からの換算
基準となる分散(独立観測のみで得られる仮想的な分散)を \(Var_{ind}\) とし、実際の推定量の分散を \(Var_{obs}\) と置くと、両者が逆比例関係になると仮定してESSを導く。代表的には、次のような整合が取られる。
- \( Var_{obs} \approx \dfrac{n}{ESS} Var_{ind} \)
このとき \(ESS\) を分散の比から解くことで換算値が得られる。実務では、分散推定(ロバスト推定やサンドイッチ分散など)をどう扱うかが結果に影響し得る。
3 一般的な利用場面
3.1 標本設計と事前検討
ESSは事前の検討段階で、必要情報量を満たすためにどれほどの観測規模が必要かを考える材料になる。設計段階では相関や重み付けの程度、欠測の見込みなどが未知でも、過去データや予備調査に基づく近似でESSを見積もり、サンプルサイズの計画に反映する。
3.1.1 サンプルサイズ見積もりへの反映
目標が標準誤差や検出力の達成だとすると、必要なESSを逆算してから、実際に得られるnとデザイン効果・重みのばらつき・欠測率の関係を通じて観測数へ変換する流れがとられる。これにより、「同じnでも情報が足りない」問題を事前に避けやすくなる。
3.2 分析報告における表記
報告では、ESSがどの定義に基づくか、計算に用いた前提が何かを明確にすることが望ましい。同じ「有効サンプル数」でも式や基準分散が異なると数値の意味が変わるためである。表記は、再現性と解釈可能性を高める。
3.2.1 有効サンプル数の明確化の要点
最低限として、(1)計算に用いたデータ生成・推定の枠組み、(2)重みや補完の有無、(3)分散推定や相関調整の方法、(4)算出式または参照した定義、を示すと理解が揃う。加えて、ESSが観測単位の同一性に依存する場合は、その単位(個体、クラスタ、反復など)を明示する。
3.3 ベイズ推論・MCMCでの活用
ベイズ推論でMCMCを用いる場合、連続するサンプルは一般に独立ではない。その結果、事後推定量の誤差が「反復回数そのもの」ではなく自己相関によって増大する。そこで、相関の影響を取り込んだ尺度としてESSが登場する。
3.3.1 自己相関と有効性(概念)
自己相関が強いほど、同じ反復回数でも情報の増え方は遅くなる。ESSは、ある変数(あるいは推定関数)について、独立サンプルに換算したときの情報量を表すことで、収束の診断や計算資源の見積もりに役立つ。一般に、鎖の長さを伸ばしても相関が残るとESSの伸びは鈍る。
3.4 機械学習評価での位置づけ
機械学習では、データ分布の偏りやサンプリング戦略(重み付け、ブートストラップ、層化評価など)が頻繁に起きる。評価指標(損失、誤分類率、キャリブレーション誤差など)の不確実性を論じる際に、ESSは「どれだけ信頼できる独立情報があるか」という観点を与える。
3.4.1 ラベル不均衡や重み付けとの関係
ラベルの偏りを補うためにクラス重みを導入したり、再サンプリングを行ったりすると、各データ点の寄与度が均一でなくなる。すると評価値の分散が単純なテストサイズからは推測しにくくなり、重み集中の程度を踏まえたESSが必要になる場合がある。結果として、見かけのデータ数に比べ推定誤差が大きく見える現象の説明にもつながる。
4 注意点と解釈上の落とし穴
4.1 定義の違いによる数値の不一致
ESSは分散基準や重みの正規化、扱う推定量(平均、回帰係数、尤度に関わる量など)によって定義が変わり得る。同じデータでも、別の定式化を採用すれば数値は一致しないことがある。したがって、数値だけを比較するのではなく、定義と算出手順を確認する必要がある。
4.2 前提(独立性・モデル化)の妥当性
ESSの解釈は、独立性の喪失をある形で集約できるという前提に依存する。重みの設計が適切でなかったり、欠測が想定と異なる機序で起きていたり、モデルがデータ生成過程を十分に捉えていなかったりすると、ESSを用いた誤差評価が過度に楽観的になることがある。前提の妥当性は、計算結果の信頼度に直結する。
4.3 小標本・極端な重みでの挙動
標本が少ない場合、近似に基づくESSの安定性が下がることがある。さらに重みが極端に偏ると、式の分母に相当する量が大きくなり、ESSが極端に小さく見える。これは情報が確かに乏しい可能性を示す一方で、計算上の感度(外れ値や重みの推定誤差)も反映するため、重みの構成と根拠も併せて検討すべきである。
4.4 報告の透明性(計算手順・仮定)
最終的に重要なのは、読者が同じ結論へ到達できる程度に、ESSの計算手順と仮定が共有されることである。具体的には、重みの作り方、正規化の有無、欠測処理、相関調整の方法、分散推定の種類、参照した定義(式番号や出典に相当する情報)を明示することが望ましい。これにより、ESSの値が単なる指標表示ではなく、誤差理解のための根拠として機能する。