1 再抽出分布の概念
1.1 再抽出(resampling)とは
1.1.1 再標本の作成方法
再抽出(resampling)とは、観測済みデータを元に、同様のサンプルサイズをもつ新しい標本(再標本)を多数回作る手続きである。目的は、ある統計量が標本の取り方によってどの程度変動するかを、データから直接把握する点にある。
再標本の作り方は手法に応じて異なる。典型的には、ブートストラップでは置換により元データからサンプルを取り直す。ジャックナイフでは、観測の一部を除外した標本を作る。置換(パーミュテーション)では、ラベルや順序をランダム化して仮説に整合的な参照分布を生成する。どの方法でも「元データをどう再利用するか」が定義要素となり、これが以後の再抽出分布の性質を決める。
1.1.2 再標本と統計量の関係
再標本を作るだけでは不十分であり、各再標本に対して同じ統計量を計算することで意味が生まれる。統計量は平均、分散、回帰係数、順位相関、中央値、差の推定など、関心対象に対応する量である。再標本ごとの統計量の値が並ぶことで、統計量のばらつきに対応する分布が形成される。
この考え方では、推定対象の値そのものよりも「推定値がどの程度揺れ得るか」が中心となる。観測データしか手元にない状況でも、再抽出を通じて揺れの大きさや分布の形状(歪みや裾など)を見積もれる。
1.2 再抽出分布の定義
1.2.1 観測値からの分布構成
再抽出分布(resampling distribution)とは、データから多数の再標本を生成し、それぞれに対して統計量を計算した結果として得られる「統計量の分布」である。数学的には、再標本作成の確率的仕組み(置換・除外・ランダム化など)に基づき、統計量が取り得る値の相対頻度として表現できる。
特徴は、参照分布が観測値と再標本手続きによって定まる点である。すなわち母集団モデルを明示的に置かずとも、データ再利用の規則から不確かさを評価する枠組みになっている。
1.2.2 目的別の「統計量」の選び方
再抽出分布の実用性は、統計量の選定に強く依存する。推定の目的が平均なのか、差なのか、回帰の傾きなのか、あるいは変動の指標(分散、標準誤差、ロバスト尺度)なのかを明確にする必要がある。さらに、区間推定や検定では「区間化したい量」や「帰無仮説と整合的な比較量」を統計量として定める。
例えば信頼区間の作成では、点推定と同じ統計量を再標本ごとに計算して、その集合から区間を作るのが基本である。一方、検定では、差分や標準化統計量など、帰無仮説下で中心化・スケーリングが適切になる量を選ぶことが多い。
1.3 再抽出分布が扱う不確かさ
1.3.1 推定誤差と分散
再抽出分布は、推定値のばらつき、つまり推定誤差の大きさを定量化するために用いられる。再標本ごとの統計量のばらつきから分散や標準偏差を計算すれば、推定の安定性を評価できる。
この考え方は、母数モデルに基づく理論分散の導出が難しい場合にも適用しやすい。統計量が複雑な関数であっても、再抽出の計算さえできれば揺らぎの推定が可能になる。
1.3.2 信頼区間・区間推定への応用
再抽出分布は信頼区間の構成に直接接続される。代表的には、再標本統計量の分位点(パーセンタイル)を区間の端点として用いる方法がある。別の枠組みでは、分布の歪みを補正することで区間のカバレッジ性能を改善しようとする。
ここでの重要点は、区間が「再標本統計量の分布に基づく」ことにある。理論的な近似(正規性など)に頼りすぎない形で、不確かさを区間として表現できる。
2 再抽出分布の作り方
2.1 ブートストラップ
2.1.1 代表的な手順
ブートストラップは、観測データから置換により再標本を作り、それに対して統計量を計算することで再抽出分布を構成する方法である。代表的な流れは次の通りである。
- 観測されたデータ集合から、同じ件数の再標本を作る(置換なので同じ観測が複数回選ばれてもよい)。
- 各再標本について、関心の統計量を計算する。
- この操作を多数回繰り返し、統計量の値の集合を得る。
- 得られた集合を分布として扱い、分位点や検定統計量に応じた指標を計算する。
2.1.1.1 反復回数と収束の考え方
再抽出は反復回数(シミュレーション回数)に依存し、回数が増えるほど分位点や平均などの推定が安定する。実務上は計算資源と必要な精度のバランスで回数が決まる。
収束の考え方は、再抽出分布の見積もりが「モンテカルロ誤差」を含む点にある。端点(たとえば上側5%点)を正確に求めたい場合ほど必要な反復回数は増えやすい。したがって、区間推定の用途では特に回数設定が結果に影響し得る。
2.1.2 ブートストラップ統計量の計算
ブートストラップでは、点推定に用いるのと同じ統計手続きを再標本上で適用する。たとえば平均、中央値、回帰係数、尤度比に基づく量など、任意の統計量が対象になり得る。
また、統計量がデータの極端な値に敏感である場合、分布形状が大きく歪むことがある。このとき、区間推定の方法や統計量の選び方を見直す必要がある。さらに、分散や相関の推定などでは、有限標本によるバイアス補正(推定手続き側での補正)も検討対象となる。
2.2 ジャックナイフ
2.2.1 概要と考え方
ジャックナイフは、1つまたは複数の観測を除外した再標本を系統的に作り、そこから統計量の変動を評価する方法である。最も典型的には「1点除外」(leave-one-out)として各観測を1回ずつ除外し、そのときの推定値を並べる。
ブートストラップが置換で多数の再標本をランダムに生成するのに対し、ジャックナイフは除外パターンが決まっているため、再抽出分布の作り方が異なる。統計量の推定誤差や漸近的なバイアスに関する近似に適する場合がある。
2.2.2 長所と制約
長所としては、実装が比較的容易で、計算負荷がブートストラップより抑えられることがある点が挙げられる。特に単純な統計量では、除外ごとの再計算を効率化できる場合がある。
制約としては、再標本が「除外により情報が減る」点に起因して、元の分散構造を十分に反映しないことがある点が挙げられる。さらに小標本では、除外による変化が大きくなり、区間の見積もりが不安定になることもある。
2.3 置換(パーミュテーション)と再抽出
2.3.1 無作為化に基づく分布の生成
置換による再抽出は、帰無仮説の下で成立すると想定される「ラベルの交換可能性」などの考え方に基づき、データをランダム化して参照分布を作る方法である。具体的には、群ラベルや処置割付を入れ替えながら、検定統計量を計算し、そのばらつきを観察する。
この手続きは、データの生成機構を直接モデル化しなくても、仮説に整合的なランダム化則を用いて分布を構成する点に特徴がある。
2.3.2 検定への接続
置換検定では、観測された検定統計量と、置換により得られた統計量の分布を比較する。帰無仮説下では観測値が「偶然としてよく起こり得る範囲」にあるかどうかが判断基準になる。
p値は、置換で得られた統計量のうち観測値と同等以上(片側・両側の定義に応じて)となる割合として計算されることが多い。再抽出分布を参照することで、理論分布に基づく近似が不要になり、条件が整えば頑健な検定が可能になる。
2.4 データ依存構造への対応
2.4.1 層化・層別再抽出
データが異なる集団(層)から成る場合、層をまたいだ単純な置換や再標本化は、層間の割合を崩して不適切な分布を作る恐れがある。層化・層別再抽出では、各層内で独立に再標本を作り、層構成を保持したまま再抽出分布を構成する。
これにより、推定対象の条件(層ごとの母集団特性)を反映しやすくなる。比率や割合が重要な分析、層別の効果が関心中心の分析では特に有用である。
2.4.2 時系列・相関データの扱い
観測が独立同分布ではなく、時間的な依存や相関を持つ場合、単純なブートストラップの適用は成り立たないことがある。再抽出の際に依存構造を壊すと、統計量のばらつきが過小評価または過大評価される可能性がある。
そのため、ブロックブートストラップのように、連続する観測の塊を単位として再標本を作る方法が用いられる。これにより、局所的な相関がある程度維持され、再抽出分布が現実的な変動を示しやすくなる。ブロック長の選定は性能に影響するため、実務では感度分析などが行われることがある。
3 再抽出分布に基づく推論
3.1 信頼区間の作成
3.1.1 パーセンタイル法
パーセンタイル法では、再抽出分布における分位点をそのまま区間端点として用いる。たとえば両側100(1−α)%区間なら、下側α/2分位点と上側1−α/2分位点の間を区間とする。
この方法は実装が簡便で、分布が対称に近い場合に妥当な性能を示しやすい。一方で、推定量の分布が歪む場合や端点付近に質的な変化がある場合、区間のカバレッジが理想からずれることがある。
3.1.2 BCaなどの補正付き手法
BCa(bias-corrected and accelerated)などの補正付き手法は、再抽出分布の歪みやバイアスを考慮して区間端点の分位位置を調整する枠組みである。パーセンタイル法が分布の歪みをそのまま用いるのに対し、補正は「実際に望む確率を対応する分位点に割り当てる」ことを狙う。
結果として、単純法よりも区間の精度が改善されることがある。ただし、補正には追加の計算や前提が含まれ、過度に複雑なデータ状況では安定しない場合もあるため、適用条件の確認が望ましい。
3.1.3 中心化と両側区間
中心化(centering)は、再標本統計量の分布を点推定の周りに位置づけてから区間を作る考え方である。区間の両側性を保つには、下側と上側の確率割当を明確にし、片側検定のような設計を誤って適用しないことが重要になる。
再抽出分布の使い方として、中心化により区間の解釈を点推定との整合に近づける場合がある。特に歪んだ分布では、中心化と補正の相性が結果に影響し得る。
3.2 仮説検定への応用
3.2.1 事後的な参照分布としての利用
再抽出分布を検定で用いる際は、帰無仮説の下で「どの程度極端な統計量が起こり得るか」を参照する。置換検定では帰無の仮定を反映したランダム化によって参照分布を作るのが代表的である。
この意味で、再抽出分布は理論的な漸近近似の代わり、あるいは補助として機能する。観測値の相対的位置づけが計算可能になるため、複雑な設定でもp値を見積もれることが利点となる。
3.2.2 p値の算出と解釈
p値は、観測された検定統計量が再抽出分布の中でどの程度稀かを表す尺度である。具体的には、再抽出で得られた統計量のうち、観測値以上(または以下)となる割合として求められることが多い。
解釈としては、「帰無仮説が正しいときに、少なくとも観測された程度の極端さが出る確率」という位置づけになる。ただし、再抽出により推定されるため、シミュレーション回数が有限であることに起因する誤差もある。極端な尾部を評価する場合ほど、反復回数の影響が大きくなりやすい。
3.3 分布の形状評価
3.3.1 歪み・裾の厚さ
再抽出分布の形状を見ることは、区間や検定の妥当性を判断する材料になる。歪みが強いとパーセンタイル型の区間が片寄ったカバレッジを持つ可能性がある。裾が厚い場合は外れ値や稀な再標本が統計量の振れ幅を支配し、安定性が低下することがある。
分布のヒストグラム、密度推定、分位点の差、あるいは歪度のような指標を用いれば、単なる中心や分散だけでは見えない特徴を把握できる。
3.3.2 外れ値の影響
外れ値は再抽出分布の裾を強め、区間幅を広げたり、検定統計量の順位を大きく変えたりすることがある。ブートストラップでは置換により外れ値が再標本に繰り返し入りやすい場合があり、その影響が増幅されることがある。
対策としては、ロバストな統計量(中央値や順位統計など)を用いる、前処理で異常値を扱う、あるいは再抽出分布の感度を確認するなどが挙げられる。外れ値の存在が構造的なのか測定誤差なのかを切り分けることも重要である。
4 実務上の注意点と評価
4.1 再抽出回数の選定
4.1.1 計算コスト
反復回数を増やすほど再抽出分布の推定は安定するが、計算時間とメモリ消費も増える。統計量の計算が重い場合やデータが大きい場合、回数増加は現実的な上限に直面しやすい。
実務では、必要な精度(たとえば区間端点の安定性)に応じて回数を決め、必要以上の計算を避けることが望ましい。特にスクリーニング的な探索では回数を抑え、最終推定では増やすなどの運用が行われることがある。
4.1.2 推定精度とのトレードオフ
有限回数の再抽出は、分位点やp値の推定にモンテカルロ誤差を含める。誤差は反復回数に応じて減少するが、減少の度合いには限界があるため、適切なバランスが必要になる。
また、再抽出分布が極端な尾部を持つ場合、同じ反復回数でも端点推定の不確実性が大きくなり得る。このため、区間の目的(どの信頼水準か、端点が重要か)を踏まえた設計が求められる。
4.2 ボトルネックとモデル仮定
4.2.1 代表性の問題
再抽出は「手元のデータをどれだけ母集団の代表として扱えるか」に依存する。標本が偏っている場合、再抽出分布はその偏りを反映してしまい、推論が目的とする母集団からずれる可能性がある。
代表性を損なう要因としては、欠測の偏り、サンプル抽出の偏向、測定条件の不揃いなどがある。したがって、再抽出の前段でのデータ品質評価や設計の妥当性確認が重要になる。
4.2.2 依存構造の無視リスク
独立性が成り立たないのに、独立を前提とする再抽出手続きを用いると、統計量の変動を誤って推定することがある。相関が強い場合、実際よりも分散が小さく見積もられたり、逆に不自然な幅になることがある。
依存構造への対処としては、層化やブロック化など、データの性質に合う再抽出設計を選ぶ必要がある。具体的な設計選択は、相関の所在(時間方向、層間、空間的近傍など)に応じて変わる。
4.3 妥当性の検討方法
4.3.1 シミュレーションによる検証
妥当性は、可能ならばデータに似た状況を模したシミュレーションで確認できる。再抽出手続きが想定する性質(独立性、分布形、欠測の扱いなど)が満たされるかを確かめることで、推定の偏りや分散過大・過小を評価できる。
検証では、想定シナリオの下で信頼区間のカバレッジが適切か、検定の誤判定率が制御されるかなどを観点にする。理想化された仮定だけでなく、現実にあり得る変動要因も含めると判断が頑健になる。
4.3.2 代替手法との比較
再抽出は万能ではないため、他の推論手法と比較することで妥当性を補強できる。例えば理論ベースの近似、漸近的手法、ロバストな推定、あるいは別の再抽出設計(ブロック長を変えた手法)との整合性を確認する。
一致が見られない場合は、分布の歪み、外れ値、依存構造、標本の偏りなど、どの要因が原因かを切り分ける必要がある。比較は最終的な結論の確信度を高めるための実務的な手段になる。
4.4 よくある誤解(統計量と分布の混同など)
4.4.1 「母集団分布」との違い
再抽出分布は「観測データから作られた統計量の分布」であり、厳密な母集団分布そのものではない。混同すると、推定の意味が誤って理解される可能性がある。
母集団分布は本来、母集団のデータ生成機構から決まる概念であるのに対し、再抽出分布はデータ再利用の規則に依存する。したがって、再抽出分布が母集団の本質的な確率モデルを完全に反映するとは限らず、適用条件の理解が前提となる。
4.4.2 「推定誤差」の誤読
推定誤差は、推定値が真の量からどれだけずれているかを表す概念だが、再抽出分布から直接得られるのは「推定値の変動パターン」である。誤読としては、再抽出分布の幅をそのまま常に真の誤差そのものと見なすことが挙げられる。
正確には、再抽出に基づく区間やp値は、不確かさの評価として解釈される。どのような誤差(バイアスや分散、推定過程の不確実性)が含まれているかは手法設計に依存するため、用いる区間構成や中心化・補正の意味を確認することが必要である。