1 ブートストラップの基本概念

1.1 リサンプリングの考え方

ブートストラップは、観測された標本から“同じ状況で再度得られるはずのデータ”を疑似的に再現し、その結果として統計量のばらつきを推定する考え方である。理論的に導出された分散式が扱いづらい場合でも、元データに含まれる変動の大きさを手掛かりとして、推定に伴う不確実性近似的に評価できる。

1.2 再標本と統計量の計算

再標本(ブートストラップ標本)とは、元データから復元的に取り直した疑似データ列である。各再標本に対して、関心のある推定量検定統計量などの統計量を計算する。こうして多数の再標本ごとに同一の処理を行うことで、統計量の取り得る値の散らばりを観察する。

1.3 ブートストラップ分布の定義

ブートストラップ分布とは、再標本を多数作成し、それぞれで求めた統計量の値を集めたときに形成される経験的な分布である。これにより、平均的な推定挙動、ばらつきの大きさ、分布の歪みや裾の厚さといった性質を、理論分布が未確定なときでもデータから読み取れる。通常は、元データから独立に理論的確率を計算するのではなく、再標本生成を通じた近似として位置付けられる。

2 ブートストラップ分布の作り方

2.1 手順(アルゴリズム

2.1.1 再標本抽出の方法

2.1.1.1 復元抽出(ランダムサンプリング

基本形では、元データ集合からサイズが同じになるように復元抽出を行う。復元抽出のため、同じ観測が再標本内に複数回現れてもよいし、ある観測がまったく選ばれない場合もある。この機構は、元データが表す分布を経験的に再利用する近似として働く。

2.1.1.2 ブートストラップ反復回数の決め方

反復回数は、推定したい量の性質と計算資源の妥協点で決める。回数が少ないと分布の推定が粗くなり、特に分位点を使う手法では不安定になり得る。一方で、回数を増やすほど経験分布滑らかさは改善するが、統計量計算のコストが直線的に増える。実務では、目的と精度要件に応じて段階的に増やし、結果が十分に収束するかで判断することが多い。

2.1.2 各反復での統計量評価

各反復では、復元抽出により得られた再標本から統計量を計算し、その値を記録する。統計量が一点推定(例:平均、回帰係数比率など)であればその推定値を、検定では帰無仮説の下での統計的性質に対応する量を用いる。こうして得た一連の値が、最終的にブートストラップ分布の標本集合となる。

2.2 観測値の扱いと条件付け

ブートストラップの生成は、通常「元データが与えられた」という条件の下で実行される。つまり、元データは固定し、その上で再抽出の乱数によって統計量のばらつきを評価する。従って、ブートストラップ分布は真の母集団の分布を厳密に表すというより、経験分布を通じて近似的に不確実性を見積もる枠組みである。

2.3 擬似コード的な流れ(概念)

概念的には次の流れになる。まず元データを用意し、反復を開始する。反復ごとに元データから復元抽出して再標本を作り、関心の統計量を計算して記録する。反復を十分回した後、記録された統計量の集合から経験分布を構成し、分位点やばらつき、中心傾向などを読み取る。最終的に、これらの要約量を標準誤差信頼区間などの形で利用する。

3 分布の解釈と活用

3.1 標準誤差の推定

ブートストラップ分布から標準誤差を見積もるには、再標本ごとの統計量の集合に対して分散や標準偏差を計算する。元データで計算した推定値を中心とみなす場合もあれば、ブートストラップ分布の平均を中心にする場合もある。どちらを採るかは、用いる推定量の性質や実装方針に依存するが、基本目的は「推定量がデータの変動によってどれほど揺れるか」を数値化する点にある。

3.2 信頼区間の推定

3.2.1 パーセンタイル法

パーセンタイル法では、ブートストラップ分布の分位点を直接用いて区間を作る。例えば両側の信頼区間であれば、下側の所定分位点と上側の所定分位点の間を取り、推定量の起こり得る範囲として解釈する。理論的な正規性などを前提にしないため、分布の歪みがある場合にも比較的素直に反映されやすい。

3.2.2 中央値・両側区間の考え方

中央傾向を区間の中心として意識する場合、ブートストラップ分布の中央値や中心付近の要約量を基準にする発想が用いられる。両側区間では、下側と上側に同程度の確率質量が残るように分位点を選ぶ設計になることが多い。区間の非対称性が観測されるときは、分布の歪みを踏まえた形状のまま区間が出るため、単純な対称仮定より現実的な結果になることがある。

3.3 仮説検定への応用(考え方)

ブートストラップは、帰無仮説の下で統計量のばらつきや極端さを評価する目的でも使える。典型的には、推定した統計量がどれほど“珍しい”かをブートストラップ分布上の位置で判断する。具体的な実装では、帰無仮説に整合するように再標本を構成したり、中心化や標準化の手順を工夫したりすることがある。重要なのは、検定の判断基準を、理論的な分布の仮定ではなく、再標本に基づく経験的分布で近似する点である。

3.4 外れ値やスキューの影響

外れ値はブートストラップ分布の裾や広がりを強く左右することがある。復元抽出では外れ値が再標本内に繰り返し現れる可能性があるため、統計量の分散や分位点が大きく動きやすい。スキュー(歪み)が強い場合も同様で、信頼区間が非対称になったり、分布の端の推定が不安定になったりする。これらは手法が必ず失敗することを意味するというより、元データの性質が分布推定に直結することを示している。

4 実務上の注意点と拡張

4.1 反復回数と精度

反復回数が有限である以上、分位点推定にはばらつきが残る。特に極端な分位(例:信頼係数が高く、区間端が分布の端に当たる場合)ほど、必要な反復回数は増える傾向がある。実務では、反復回数を増やしたときに区間が安定するかを確認したり、ブートストラップ分布の形状が急に変わらないかを観察したりすることで妥当性を確かめる。

4.2 元データの偏り・代表性

ブートストラップは経験分布から再抽出するため、元データが真の母集団を十分に代表していないと、推定された不確実性も同様に偏り得る。例えば観測期間が短い、抽出の偏りが大きい、欠測の扱いが不適切であるなどの状況では、再標本の多様性が本来必要な多様性を反映できないことがある。そのため、前処理(データクリーニング、欠測処理、重み付けなど)が推定結果に大きな影響を与える。

4.3 自然な拡張:ブートストラップの変種

4.3.1 層化・クラスタに基づくブートストラップ(概念)

データが層(層化要因)や群(クラスタ)により構造化されている場合、単純な復元抽出は独立性の仮定と合わないことがある。層化に基づく発想では、層ごとの比率や分布を維持したまま再標本を作ることで、全体の構成を保ちながら不確実性を評価しようとする。クラスタに基づく発想では、個々の観測ではなくクラスタ単位をまとめて再抽出し、同一クラスタ内の相関を崩さないようにする。

4.3.2 ブロック化による依存の扱い(概念)

時系列や空間データなど、観測の順序や近接性に依存がある場合、単独の観測を独立に再抽出すると依存構造が壊れる。ブロック化の考え方では、連続する期間や空間領域をひとかたまりとして扱い、その塊を再配置しながら再標本を作る。これにより、局所的な相関パターンをある程度保持したまま統計量のばらつきを推定できるようになる。