1 Wald検定の概要

1.1 検定の目的と適用範囲

Wald検定は、統計モデルの未知パラメータ(あるいはその関数)に対する仮説を検定するための手法である。検定の狙いは、推定されたパラメータが「帰無仮説で想定される値」からどの程度乖離しているかを、推定不確実性分散共分散)で標準化して評価する点にある。

適用範囲は広く、回帰分析一般化線形モデルGLM)、最大尤度推定MLE)を土台とする多くの枠組みで利用される。特に、推定量の漸近分布が扱いやすい状況では、カイ二乗型の検定統計量により棄却域を設定できるため、実務での採用が多い。

1.2 検定統計量の基本構造

Wald検定の核となる構造は「乖離の大きさ」と「不確実性」の対応付けである。帰無仮説が指定する制約を満たさない程度を表す量を作り、その量を推定量の共分散(あるいはその推定に基づく分散)で重み付けする。

概略的には、制約違反を表すベクトルを、推定共分散行列で調整した二次形式(いわゆる平方和に相当する形)を検定統計量とする。この統計量が大きいほど、観測された推定結果が帰無仮説から離れていると判断される。

1.3 検定の前提(漸近理論分散推定

Wald検定は多くの場合、漸近理論に依拠する。すなわち、標本数が十分大きいと仮定したとき、推定量が漸近的に正規分布に近づく。その結果、検定統計量は漸近的にカイ二乗分布に従うことが多い。

また、検定統計量には分散・共分散の推定が登場する。ここでの分散推定の方法(モデルに基づく標準的な推定、ロバスト分散、漸近近似のどこまでを用いるか等)が検定の挙動に影響する。前提は「推定誤差が適切に近似される」ことにある。

1.4 尤度比検定スコア検定との関係

Wald検定は、尤度比検定(likelihood ratio test)やスコア検定(score test)と同じく、漸近的な検定枠組みの中で並べて理解されることが多い。三者はいずれも漸近的に同等な検出力や漸近的な分布を与える条件が存在するが、一般には有限標本では差が生じうる。

直感的な違いは「評価する点」や「利用する情報の切り出し方」にある。Wald検定は推定値の近傍で制約違反を測り、尤度比検定は制約あり・なしでの尤度差、スコア検定は帰無仮説下での傾き(スコア)に基づく。実務では、どの検定がより安定的かを検討することがある。

2 数式による定式化

2.1 仮説の表し方

2.1.1 パラメータに関する仮説

パラメータベクトルを\(\theta\)とし、帰無仮説を\(\theta=\theta_0\)のように表す。より一般には、推定量\(\hat\theta\)が従う仮説の形として、制約式\(g(\theta)=0\)が用いられる。

たとえば、特定の成分だけを固定する形式や、複数成分を同時に縛る形が典型である。仮説の次元(制約の数)が検定統計量の自由度に対応する。

2.1.2 パラメータの線形・非線形制約

制約\(g(\theta)=0\)は線形でも非線形でもよい。線形制約では、行列\(R\)とベクトル\(r\)を用いて\(R\theta=r\)の形で書けることが多い。非線形制約では、\(g(\theta)\)が一般の関数として定義される。

非線形制約では、制約関数の微分ヤコビアン)による線形近似が漸近理論の中で重要になる。この近似により、制約違反が推定誤差に結び付けられる。

2.2 検定統計量の導出概念

2.2.1 估計量と共分散行列の役割

仮説\(g(\theta)=0\)に対して、推定値\(\hat\theta\)から制約違反\(g(\hat\theta)\)を計算する。制約の次元を\(q\)とすると、\(g(\hat\theta)\)は\(q\)次元ベクトルになる。

漸近的な考え方では、\(g(\hat\theta)\)は\(\hat\theta\)の誤差と線形関係に近づくため、\(\hat\theta\)の共分散行列\(\widehat{\mathrm{Var}}(\hat\theta)\)を用いた重み付けが可能になる。制約関数が線形の場合は重み付けが単純化され、非線形の場合はヤコビアンで調整した共分散(あるいはその推定)が用いられる。

2.2.2 カイ二乗分布への漸近性

適切な正則条件の下で、検定統計量は漸近的にカイ二乗分布に従う。具体的には、制約違反を制約方向の分散で割った二次形式が、自由度\(q\)のカイ二乗分布へ収束する。

帰無仮説が正しいとき、制約違反は推定誤差の範囲に収まるため、二次形式は概ね中程度の値にとどまる。逆に、大きな値が得られた場合は、漸近近似の範囲では帰無仮説との整合性が低いと解釈される。

3 実務での使い方

3.1 解析手順の流れ

3.1.1 モデル推定

まず、帰無仮説の有無に関係なく、対象モデルを指定してパラメータ推定を行う。多くのソフトウェアでは最大尤度推定やその拡張推定が中心となり、推定値\(\hat\theta\)と共分散(標準誤差を含む情報)が得られる。

この段階で、推定手法の収束状況、推定量の数値安定性、標準誤差が適切に計算されているかが結果の信頼性に影響する。

3.1.2 制約の指定

次に、検定したい仮説制約を明確にする。線形制約であれば行列形式で与えられ、非線形制約では制約関数\(g(\theta)\)を定義する。

重要なのは「制約の数が何か」である。これは自由度として反映され、棄却域の幅を左右する。また、単位やスケールが不整合だと制約が意図とずれる可能性があるため、変数定義の確認が必要である。

3.1.3 検定統計量と有意水準の決定

ソフトウェアあるいは手計算により、Wald統計量を構成し、対応するカイ二乗分布(漸近近似)からp値を計算する。続いて、設定した有意水準(例:0.05)と比較し、棄却・不棄却を判断する。

結果の読み取りでは「p値が小さい=制約が十分に支持されない」ことを意味する。ただし、漸近近似に依存するため、標本規模や推定の性質によっては解釈に注意が要る。

3.2 モデル別の代表例

3.2.1 線形回帰での応用

線形回帰では、回帰係数に関する制約が自然に導入できる。たとえば、ある説明変数の係数が0であるか、複数係数の線形結合が特定の値に等しいかを検定対象とすることが多い。

線形モデルでは分散構造が明確であり、共分散推定も標準的に扱えるため、Wald検定は制約の同時検定に使いやすい。ロバスト分散を採用する場合は、誤差分散の想定に揺らぎがあるときの頑健性を意識できる。

3.2.2 一般化線形モデルでの応用

GLMではリンク関数と分散関数のもとで尤度型の推定が行われる。ここでのWald検定は、回帰係数やそれに対応する線形予測子に対する仮説を検定するために用いられる。

非正規性や過分散がある場合、標準誤差の扱いが重要になることがある。適切な分散推定(モデルに基づくもの、またはロバストなもの)を選ぶことで、検定の妥当性を高められる。

3.2.3 構造方程式・複雑な推定での応用

構造方程式モデルや、混合効果モデルの一部の枠組みでは、推定が複雑になり共分散行列の計算も難しくなる場合がある。それでもWald検定は、得られた推定値とその推定共分散があれば制約検定を行える利点がある。

ただし、非線形性が強い領域では漸近近似の精度が下がることがあり、数値的な不安定さが検定結果に影響する可能性がある。実務では別手法(尤度比検定など)との比較が行われることがある。

3.3 ソフトウェアでの実装の考え方

3.3.1 出力の読み方

多くの統計ソフトウェアは、Wald検定に対応するp値や検定統計量を出力する。出力には自由度や推定方法に関する注記が含まれることがあるため、どの自由度が使われたかを確認すると解釈が安定する。

また、標準誤差がどの計算法に基づくか(モデルベースか、ロバストか)も重要である。p値だけを見て判断すると、前提のずれを見落とすことがある。

3.3.2 設定パラメータの注意点

検定対象の制約を指定する際、パラメータ化の違いによって意図した制約が別の形で反映されることがある。たとえば係数の再パラメータ化、基準カテゴリの取り方、スケーリングの有無などである。

さらに、推定アルゴリズムの収束条件や、極端な初期値により同等に見える解が得られていない可能性も確認すべきである。こうした要因が推定共分散に波及し、Wald統計量の計算結果を左右する。

4 注意点と解釈

4.1 標本サイズと漸近近似の妥当性

Wald検定は漸近理論に基づくため、標本数が小さい場合や、境界に近い推定が起きる場合には、カイ二乗近似が精密でないことがある。結果として、見かけ上の有意性が実際の誤り率と一致しにくくなる可能性がある。

対策としては、推定結果の分散推定が安定しているか、残差や適合度の診断を行い、必要なら別の検定枠組みの併用を検討することが挙げられる。

4.2 分散・共分散推定の影響

検定統計量は共分散行列の逆行列(またはその相当量)を通じて構成されるため、共分散推定が不正確だと影響が増幅されやすい。とりわけ、相関が強いパラメータや、多重共線性に近い状況では推定分散が大きくなり、検定が不安定になり得る。

ロバスト分散の採用や、モデル仕様の見直しによって、推定の妥当性を確かめることが重要である。どの分散が「何を守るため」の選択かを理解した上で使う必要がある。

4.3 多重制約・自由度の扱い

制約が複数ある場合、自由度が増えるため、棄却域の形が変わる。自由度の設定が制約の数に対応しているかを確認しないと、p値の解釈が誤る。

また、制約が互いに独立でない(実質的に情報が重複する)場合、共分散行列の特異性や数値的不安定が生じ、検定が不安定になることがある。このときは制約の整理や再パラメータ化の検討が役立つ。

4.4 Wald検定が不利になりやすい状況と対策

一般に、有限標本での精度が高くない場面では、Wald検定の挙動が他の漸近検定と異なることがある。代表的には、推定が境界付近になるケース、制約が強いケース、非線形性が大きいケースが挙げられる。

対策としては、尤度比検定やスコア検定と比較する、必要なら信頼区間(推定値の不確実性)に基づく判断を補助に用いる、ブートストラップなどの再標本化により近似の妥当性を確認する、といった方法がある。結論の頑健性を見積もる姿勢が有効である。