1 漸近分散の基本概念
1.1 漸近分布と分散の極限
1.1.1 標本サイズ拡大に伴う分散の収束
推定量 \(T_n\) のばらつきは、標本数 \(n\) が増えるにつれて減衰することが多い。このとき重要なのは、単なる分散そのものではなく、「適切に誤差をスケーリングした後に見える分散が極限でどの程度になるか」である。典型的には \(T_n\) が真値近傍に集束し、正しい正規化を行うと、確率分布が極限へ近づく。その極限分布の分散が、漸近分散として扱われる。 分散の収束が意味を持つためには、少なくとも当該スケーリング後の中心化・正規化が有効であり、極限分布が有限の分散を持つことが望ましい。
1.1.2 スケーリング(正規化)と分散の見え方
推定誤差の大きさはしばしば \(n^{-1/2}\) で特徴づけられるため、\(\sqrt{n}(T_n-\theta)\) のように誤差を拡大して眺めると、分布が非退化になりやすい。ここで \(\theta\) は対象のパラメータ(一次の中心)である。 仮に \[ \sqrt{n}(T_n-\theta)\ \Rightarrow\ \mathcal{N}(0,V) \] のように極限が正規分布になるなら、極限分布の分散 \(V\) が漸近分散である。逆に言えば、漸近分散は「標本数に応じた誤差の縮み方」を前提とした、誤差の二次的な大きさ(ばらつきの強度)を表す量となる。
1.2 推定量における定義の代表例
1.2.1 点推定の漸近分散
点推定では \(T_n\) を推定量、\(\theta\) を推定対象とする。漸近分散は一般に、スケール付き誤差の極限の分散として定義される。たとえば一次元の場合、漸近正規性が成り立つとき \[ \sqrt{n}(T_n-\theta)\ \Rightarrow\ \mathcal{N}(0,V) \] により、漸近分散は \(V\) として与えられる。 この枠組みでは、実務上は \(T_n\) の推定値を中心に、標準誤差を \(\sqrt{V/n}\) の形で近似する考え方が自然に導かれる。
1.2.2 検定統計量の漸近分散
検定では統計量 \(S_n\) を真値の下で評価し、極限分布に基づいて棄却域や \(p\) 値近似を構成する。統計量が正規近似される局面では、しばしば \[ \frac{S_n-\mu_n}{\sigma_n}\ \Rightarrow\ \mathcal{N}(0,1) \] のような標準化が行われる。ここで \(\sigma_n^2\) の極限形に相当する量が漸近分散として現れる。 たとえば \(S_n\) が \(\sqrt{n}\) スケールで変動し、その極限分散が \(V\) に対応するなら、検定における標準化の分母として \(V\) が重要になる。
1.3 漸近分散が果たす役割
1.3.1 標準誤差・信頼区間の近似
漸近分散は、信頼区間や標準誤差の近似に直接関与する。一次元の推定で、漸近正規性により \[ T_n \approx \mathcal{N}\!\left(\theta,\frac{V}{n}\right) \] と見なせるなら、対称区間として \[ T_n \pm z_{\alpha/2}\sqrt{\frac{V}{n}} \] の形の近似が導かれる。ここで \(z_{\alpha/2}\) は標準正規分布の分位点である。 より一般に多変量の場合は共分散行列の対角要素が個別のばらつき、非対角要素が相関を反映し、線形近似に基づく楕円型区間の構成にも利用される。
1.3.2 検定の有意性計算
検定では、統計量の標準化に必要な分散情報が決定的になる。たとえば推定量に基づく検定で、帰無仮説の下で \(\sqrt{n}(T_n-\theta_0)\) が平均0・分散 \(V\) の極限正規分布に従うなら、 \[ Z_n=\frac{\sqrt{n}(T_n-\theta_0)}{\sqrt{V}} \] のような統計量が漸近的に標準正規分布へ近づく。すると \(p\) 値は標準正規分布に対する片側または両側の尾確率として近似できる。 このとき漸近分散の正確性は、実際の誤差確率(第一種・第二種)に結びつくため、導出と推定の丁寧さが求められる。
2 漸近正規性との関係
2.1 中心極限定理の拡張としての見方
2.1.1 M推定量・最尤推定などの枠組み
多くの推定法では、標本から作られる「方程式(推定方程式)」が真値の周りで線形化できる形になっている。このとき漸近正規性は、要素となる確率量が中心極限定理的な性質を持つことと、方程式の解がその線形化により安定に変動することから説明される。 M推定量は、目的関数または推定方程式に基づき推定値を得る枠組みであり、最尤推定もその中に位置づけられる。いずれも「スコア(勾配)」や「推定方程式の残差」が極限で正規化された和として扱える場合、漸近分散が自然に導出される。
2.1.1.1 推定方程式と漸近分散の導出
M推定量は一般に \( \hat{\theta}_n \) がある推定方程式 \[ \Psi_n(\theta)=0 \] を満たすように定義される。真値 \(\theta\) の近傍で \(\Psi_n\) をテイラー展開し、一次項で近似すると、\(\hat{\theta}_n-\theta\) は主に \(\Psi_n(\theta)\) の変動を線形写像で変換したものとして表される。 具体的には、\(\Psi_n(\theta)\) の中心化・正規化の極限分布(しばしば正規)と、ヤコビアン(線形化の係数)から、共分散構造が \[ V = A^{-1}BA^{-T} \] のような形で整理される。ここで \(A\) は線形化の感度に対応し、\(B\) は一次項のばらつき(スコアの分散など)に対応する。
2.2 逐次近似とデルタ法
2.2.1 非線形変換が分散へ与える影響
推定量が得た後に非線形関数 \(g(\cdot)\) を適用する場面は多い。漸近理論では、非線形の影響は真値近傍での一次近似で十分に捉えられることが多い。これはデルタ法の直観である。 もし \(\hat{\theta}_n\) が漸近正規であり、\(\hat{\theta}_n-\theta\) が小さいなら、\(g(\hat{\theta}_n)\) は \(g(\theta)+g'(\theta)(\hat{\theta}_n-\theta)\) 程度の変動で説明でき、結果として分散は \(g'(\theta)^2\) 倍になる。非線形がより強く効く場合は、一次近似の妥当性(残差の無視可能性)を確認する必要がある。
2.2.2 導関数(ヤコビアン)を用いた整理
多変量ではデルタ法はヤコビアン行列で記述される。すなわち \(g:\mathbb{R}^k\to\mathbb{R}^m\) のとき、極限共分散は \[ \mathrm{Cov}\big(\sqrt{n}(g(\hat{\theta}_n)-g(\theta))\big)\approx J\,V\,J^T \] の形になる。ここで \(J\) は \(g\) の \(\theta\) における微分(ヤコビアン)である。 この整理は、漸近分散が「線形写像の下でどう伝搬するか」を明確にするため、複数パラメータの関数量(たとえば差・比・率など)に対しても同様の推論が可能になる。
2.3 漸近分散の幾何学的・直観的解釈
2.3.1 感度(スコア)とばらつきの対応
漸近分散の核には、「推定値がデータの揺れにどれだけ敏感か」という感度の情報と、「データ側のランダム性の強さ」という揺らぎの情報が分離されている。前者は線形化係数(勾配やヤコビアン)として、後者は一次項の分散として現れる。 したがって、同じデータばらつきでも感度が大きい推定法は分散が増え、感度が抑えられた構成では漸近分散が小さくなる。直観的には、推定手続きの設計が「入力の微小変化をどれだけ出力の変動へ変換するか」を決めている。
2.3.2 情報量との関連(概念レベル)
最尤推定などでは、漸近分散が情報量と結びつく形で表現されることが多い。典型的には、観測されたデータがパラメータに与える識別の強さ(フィッシャー情報やその対応物)が大きいほど、推定値のばらつきは小さくなる。 この関係は厳密には条件に依存するが、「情報が多い=推定が安定=漸近分散が小さい」という概念的対応は、漸近理論全体を貫く考え方として位置づけられる。
3 漸近分散の導出・計算
3.1 モデル仮定に基づく理論的導出
3.1.1 独立同分布の場合の標準的手順
独立同分布では、スコアや推定方程式に含まれる確率量が「独立な和」として扱えるため、中心極限定理の適用が自然になる。導出の典型手順は次のように整理できる。 まず、推定方程式や目的関数の一次条件から、推定値を未知数として方程式に置く。次に真値周りで一次近似し、\(\sqrt{n}\) スケールで主要項が正規極限を持つことを確認する。最後に線形化係数を用いて共分散を射影・反転し、漸近分散または共分散行列を得る。 この流れで必要となる仮定は、微分可能性、確率量のモーメント条件、正則性(情報行列が退化しない等)である。
3.1.2 従属性がある場合の考慮点
データが独立でない場合、確率量の和の分散が単純なスカラー倍(\(n\) 倍)にならない。相関構造により、極限分散は「自己共分散の総和」型の項を含む形になることが多い。 漸近分散の計算では、依存の種類に応じて有効サンプルサイズの概念を導入する代わりに、理論的には極限定義(弱い収束)のための条件を満たす必要がある。具体的には、混合性や弱依存性を仮定し、極限での共分散が有限に収束することを示す方向で議論が進む。
3.2 代表的な推定手法ごとの形
3.2.1 最尤推定における漸近分散
最尤推定では、尤度の微分であるスコアを用いて推定方程式を作る。正則条件の下では、スコアの分散が情報量に結びつき、漸近分散が情報行列の逆行列として表される形が得られることが多い。 一方で、モデルの正則性が崩れる状況や推定対象が境界に近い状況では、単純な「逆情報」形が成立しにくい場合があるため、適用条件の確認が重要になる。
3.2.2 モーメント法・GMMの漸近分散
モーメント法では、理論上のモーメント条件 \(E[g(X,\theta)]=0\) に基づいて推定量を決める。GMMでは複数のモーメント条件を重み付きで統合し、最小化問題として推定する。 漸近理論では、モーメントベクトルの分散(共分散)と、モーメントがパラメータにどれだけ敏感か(ヤコビアン)から、漸近共分散が合成される。重み行列の選び方によって漸近分散の大きさが変化し、効率の議論と結びつく。
3.2.3 回帰型推定における分散の構造
回帰では誤差項の分散と設計行列(説明変数の構造)が推定量のばらつきに直結する。線形回帰の基礎形では、誤差分散が一定(ホモスケダスティシティ)であれば、漸近分散(有限標本の分散と連動する)が設計行列の逆行列を通じて表される。 異分散が疑われる場合や、誤差と説明変数の関係が理想化と異なる場合は、漸近分散が修正された形で計算される。依存がある場合も同様で、設計と誤差の相互構造を反映した共分散評価が必要となる。
3.3 数式表現の整理
3.3.1 尤度・スコア・情報行列の登場
漸近分散の導出では、尤度やその微分から構成されるスコアが中心的役割を持つ。一次条件においてスコアが0になるため、スコアのばらつき(分散)と、スコアの変化率(ヘッセ行列に関連)が線形化係数として現れる。 結果として、漸近共分散は情報行列に関する形として整理されることが多い。これにより、「どのモデル仮定が情報量に影響し、ひいては分散を変えるか」を追跡できる。
3.3.2 「分子・分母」型の表式の理解
漸近分散が単純な形で出るとき、分数の形(分子にばらつき、分母に感度や識別力)が頻出する。一次元の推定ではしばしば \[ V=\frac{\text{分散要因}}{(\text{感度要因})^2} \] のような構造が現れる。 ここで分子はスコアや影響関数のランダム性を表し、分母は推定方程式がどれだけ強くパラメータを拘束するかを反映する。この理解を持つと、極端な場合に漸近分散が増大(識別力低下や感度不足)する直感が得られる。
4 漸近分散の推定と実務上の扱い
4.1 プラグイン推定(理論式に基づく方法)
4.1.1 推定量の置換による近似
理論的に漸近分散は真値 \(\theta\) の関数として表されることが多い。しかし実務では \(\theta\) は未知であるため、推定値 \(\hat{\theta}_n\) に置き換えて計算するのがプラグイン推定である。 たとえば理論式が \(V(\theta)\) と書けるなら、実装では \(V(\hat{\theta}_n)\) を計算し、それを分散推定量として利用する。漸近的には整合性(推定量が真値へ収束し、分散推定も極限へ近づく)が成り立つことが目標になる。
4.1.2 期待値と標本平均の置換
理論式に含まれる期待値(たとえばスコアの分散や情報行列の要素)は、標本平均で置換するのが基本となる。結果として、分散推定量はデータから計算可能な量だけで構成される。 ただし、置換は「有限標本での近似誤差」を生むため、標本サイズが小さいと過度に楽観的な誤差見積りになり得る。そこで、有限サンプルの振る舞いや診断(次節)が重要になる。
4.2 サンドイッチ分散推定
4.2.1 ロバスト性の考え方
サンドイッチ分散推定は、誤差構造が理想化されていない場合でも妥当な漸近分散を確保することを狙う。典型的には、線形化係数(感度側)と、一次項のばらつき(揺らぎ側)を別々に推定し、両者を組み合わせる。 「片側の情報だけに依存しない」という点がロバスト性の源泉になることが多く、モデルがミススペシフィケーションされる可能性を含む文脈で有用性が高い。
4.2.2 分散の左右成分(概念的な役割)
サンドイッチ構造では、推定の式が \(A^{-1}BA^{-T}\) のような形になり、左側と右側が感度(線形化の係数の反転・転置)を担い、中央の \(B\) がばらつきの大きさを担う。これにより、モデルが正しいときの情報ベースの評価と、より一般的な分散評価の双方を包含する形として理解できる。 実装上は、推定した \(A\) と \(B\) を組み立てて分散共分散行列を得るが、数値的な安定性(行列の条件数など)にも注意が必要になる。
4.3 依存データでの推定(概念)
4.3.1 ブロック・分散推定の発想
依存があるときは、標本平均による単純な分散推定が過小評価につながることがある。そこでブロック化により、同一ブロック内での相関を保持しつつ、ブロック間の相関を弱めた形で極限分散に近づける発想が用いられる。 この考え方は、依存構造を直接特定しなくても、整合的な極限評価へ到達する可能性を与える。
4.3.2 近似誤差の評価観点
ブロック長の選択は近似誤差とトレードオフを生む。ブロックが短すぎると依存が十分に吸収されず過小評価になり、長すぎると独立に近い仮定が粗くなり分散推定のばらつき(推定誤差)が増える。 したがって、診断や感度分析を通じて、ブロック設定が結論に与える影響を確認することが実務では重要になる。
4.4 近似精度と診断
4.4.1 サンプルサイズ依存性の確認
漸近理論に基づく推論は、標本が十分大きいことを背景として成立する。したがって実務では、推定した標準誤差や信頼区間の幅が標本サイズに対してどのように変化するかを確認する価値がある。 ブートストラップや再サンプリングにより、漸近近似との差を観測できる場合もある。全ての問題で常に可能とは限らないが、診断の一手として位置づけられる。
4.4.2 感度分析と頑健性チェック
モデル化や推定仕様(重み付け、整合性に関わる仮定、依存性に対する扱い)を少し変えたときに、漸近分散推定や推論結果が大きく動かないかを確認する。 具体的には、代替する分散推定法(ロバスト版と理想化版)、調整パラメータ(バンド幅やブロック長)、あるいはモデルの中核となる仮定の近い代替(別の推定方程式)を用いて、結論の安定性を点検する。これにより、漸近分散の推定が持つ不確実性を相対化できる。