1 基本概念
尤度比検定は、観測されたデータに対して、互いに入れ子になった二つの仮説やモデルのどちらがより妥当かを、尤度の大小で判断する方法である。単に当てはまりの良さを比べるだけでなく、より制約の強いモデルとより自由度の大きいモデルを比較する点に特徴がある。
この手法は、仮説検定の枠組みの中で用いられ、観測結果が帰無仮説の下でどの程度起こりやすいかを、対立仮説と対照する形で評価する。統計解析では、分布モデルの適合度確認から回帰分析、階層的なモデル比較まで、広い場面で用いられる。
1.1 尤度の定義
尤度は、観測データを固定し、そのデータが与えられたときに各パラメータ値がどれだけ支持されるかを表す関数である。確率分布そのものを述べる確率関数とは向きが逆で、データの側を固定してパラメータを動かす点に意味がある。
尤度が大きいほど、そのパラメータは観測結果と整合的であると解釈される。ただし、尤度は確率のように合計が1になる量ではなく、異なるパラメータ間での相対的な比較に使われる。
1.2 仮説検定との関係
尤度比検定では、二つの仮説のもとで最大化された尤度を比べ、その差が十分大きいかどうかを判断する。ここで重要なのは、両者が独立した仮説ではなく、片方がもう一方の制約付きの特別な場合になっていることである。
この構造により、単なる適合度比較ではなく、追加された自由なパラメータが統計的に意味を持つかを調べられる。実務上は、単純なモデルが十分か、それとも複雑なモデルが必要かを検討する際によく利用される。
1.2.1 帰無仮説
帰無仮説は、通常、より制約が強く単純なモデルとして置かれる。多くの場合、「追加の効果はない」「特定のパラメータは0である」といった形で表現される。
尤度比検定では、この仮説のもとでの最大尤度を基準にし、対立仮説の尤度がどれだけ改善するかを評価する。したがって、帰無仮説は比較の出発点となる。
1.2.2 対立仮説
対立仮説は、帰無仮説よりも広いモデル空間を許す。制約を緩めた結果として、データへの適合が改善するかどうかが焦点になる。
この仮説は、必ずしも「完全に正しいモデル」を意味しない。むしろ、帰無仮説よりも観測値をうまく説明できる候補として扱われる。
1.3 入れ子モデル
入れ子モデルとは、あるモデルが別のモデルの特殊例になっている関係を指す。たとえば、上位モデルで特定のパラメータを0に固定すると、下位モデルに戻るような場合が典型である。
尤度比検定が特に有効なのは、このような構造がある場合である。比較対象が入れ子になっていることで、検定統計量の理論的性質を導きやすくなる。
2 検定統計量
尤度比検定の中心は、二つのモデルで得られる最大尤度の比を数値化することにある。そのままでは扱いにくいため、対数変換や符号反転を行い、検定に適した形へ変形する。
この統計量は、値が大きいほど帰無仮説に不利である。したがって、閾値と比較することで、仮説の採否を決める。
2.1 尤度比の構成
尤度比は、帰無仮説の下での最大尤度を対立仮説の下での最大尤度で割った形、またはその逆数として表される。実際には、どちらの表現を用いても同じ結論に至るよう調整される。
一般には、帰無仮説の尤度が対立仮説の尤度に近いほど比は1に近づき、差が大きいほど0に近づく。この性質が、モデルの優劣を定量化する基本となる。
2.2 対数尤度比
対数尤度比は、尤度比に対数を取ることで計算を安定させ、積の形を和に変換する。これにより、数値計算が容易になり、解析的な操作もしやすくなる。
対数を用いると、尤度比の小ささや大きさをより明確に扱える。統計学では、対数尤度の差そのものがモデル比較の要約量として使われることが多い。
2.3 変換された検定統計量
尤度比そのものは分布論的に扱いにくいため、検定統計量として変換した量を用いるのが普通である。代表的には、対数尤度差に一定の係数を掛けた形が使われる。
この変換によって、帰無仮説の下での近似分布を定めやすくなる。結果として、p値の計算や有意性の判定が可能になる。
2.3.1 二倍対数尤度比
二倍対数尤度比は、対立仮説と帰無仮説の最大対数尤度の差に2を掛けた統計量である。これは尤度比検定で最も標準的な形式の一つである。
この量は、対立仮説が帰無仮説よりどれだけ適合を改善したかを、単一の数値で表す。値が大きいほど、制約の緩いモデルが強く支持される。
2.3.2 カイ二乗近似
大標本では、二倍対数尤度比はカイ二乗分布に近似的に従う。これにより、複雑な分布を厳密に求めなくても、実用的な検定が可能になる。
ただし、この近似は標本が十分大きいことを前提とする。小標本や境界条件では、近似の精度が落ちることがある。
3 理論的性質
尤度比検定は、数学的に整った性質を持つため、理論統計学で重要視されている。とりわけ、大標本理論の中で安定した挙動を示すことが評価される。
また、他の検定法と比較した際にも、一定の条件下で望ましい性能を示すことがある。これにより、実用面と理論面の両方で広く採用されている。
3.1 ウィルクスの定理
ウィルクスの定理は、入れ子になった正則なモデルにおいて、二倍対数尤度比の漸近分布がカイ二乗分布になることを述べる。尤度比検定の理論的基盤として中心的な役割を果たす。
この定理により、帰無仮説の下での統計量の分布を近似的に扱える。結果として、有意水準に基づく判定が標準化された形で行える。
3.2 一致性と有効性
尤度比検定は、一般に一致的であり、真の仮説が帰無仮説でないなら、標本サイズの増加とともに正しく棄却しやすくなる。つまり、十分大きなデータがあれば、誤った制約を見抜きやすい。
有効性の面でも、特定の条件下では高い検出力を持つ。特に、候補モデルの差が明確な場合に、他の検定より鋭敏に働くことがある。
3.3 大標本近似
大標本近似は、尤度比検定の実務利用を支える重要な考え方である。有限標本では厳密でなくても、サンプル数が増えるにつれて理論結果に近づく。
この近似によって、複雑なモデルでも計算可能な判断基準が得られる。統計ソフトウェアで広く使われているのも、この性質による。
3.3.1 漸近分布
漸近分布とは、標本サイズが無限大に近づくときの統計量の分布を指す。尤度比検定では、この分布がしばしばカイ二乗分布として与えられる。
この性質により、帰無仮説の下での理論的な基準値を設定できる。実際の解析では、この近似分布がp値算出の土台になる。
3.3.2 自由度の考え方
自由度は、対立仮説と帰無仮説の間で追加された独立な制約の数に対応する。通常は、両モデルのパラメータ数の差として把握される。
この数が大きいほど、カイ二乗近似の分布形も変化する。したがって、適切な自由度を数えることは検定の正確さに直結する。
4 計算と適用
尤度比検定は、理論だけでなく計算手順が明確であるため、さまざまな統計ソフトで実装されている。一般には、両モデルを当てはめ、最大尤度を求め、その差を統計量として評価する。
適用範囲は広く、単純な分布比較から複雑な回帰分析まで及ぶ。モデル選択の現場では、解釈のしやすさと計算の安定性から重宝される。
4.1 具体的な計算手順
まず、帰無仮説モデルと対立仮説モデルをそれぞれ推定し、最大対数尤度を求める。次に、その差をもとに検定統計量を計算する。
最後に、自由度に応じたカイ二乗分布と比較して、p値や有意性を判断する。手順自体は単純だが、モデルの定義と前提条件を正しく整えることが重要である。
4.2 モデル比較への応用
尤度比検定は、複数の候補モデルを比較する場面で特に有用である。どちらのモデルが観測データをよりよく説明するかを、定量的に示せるからである。
ただし、比較は入れ子構造を持つモデル間で行うのが基本である。無関係なモデル同士では、同じ理論をそのまま適用できない。
4.2.1 正規モデルでの検定
正規分布を仮定する場合、平均や分散に関する制約を比べることで尤度比検定を行える。たとえば、分散が一定かどうか、平均に差があるかどうかを調べる場面がある。
この種の問題では、対数尤度が明示的に書けることが多く、計算が比較的容易である。古典的な統計分析で頻出する応用例である。
4.2.2 回帰モデルでの検定
回帰モデルでは、説明変数を追加したときに適合がどれだけ改善するかを評価するために使われる。線形回帰だけでなく、一般化線形モデルでも同様の考え方が適用される。
係数の一部を0とみなす帰無仮説を置き、それを緩めたモデルと比較することで、変数の寄与を検討できる。変数選択やモデル縮約の判断にも役立つ。
4.3 実務上の注意点
実際のデータ解析では、理論的に整った近似がそのまま成り立つとは限らない。モデルの誤指定、分布の偏り、外れ値などが結果に影響することがある。
そのため、尤度比検定の結果だけで結論を固定せず、前提条件や他の診断法も合わせて確認することが望ましい。検定はあくまで判断材料の一つである。
4.3.1 標本サイズの影響
標本サイズが小さいと、漸近近似が十分に機能しないことがある。とくに、パラメータ数が多い場合や境界付近の推定では、その傾向が強まる。
一方、標本が大きくなると、理論分布への近づき方が改善する。したがって、サンプル規模は検定結果の信頼性を左右する重要な要素である。
4.3.2 近似が不十分な場合
カイ二乗近似が不適切な場合には、別の方法を検討する必要がある。たとえば、ブートストラップや厳密検定、シミュレーションによる評価が候補となる。
近似のずれが大きいと、p値が実態を反映しにくくなる。実務では、理論式の適用可否を状況ごとに見極めることが求められる。
5 関連する手法
尤度比検定は、仮説検定の主要手法の一つであり、他の検定法としばしば比較される。いずれも同じ問題に異なる視点から取り組むが、強みや前提条件には差がある。
モデル選択の文脈では、検定と情報量基準が並んで用いられることも多い。目的に応じて、推定重視か比較重視かを選び分ける。
5.1 似た考え方の検定
尤度を基盤にする検定は、尤度比検定だけではない。スコア検定やウォルド検定も、同じ枠組みに属する代表例である。
これらは理論上しばしば近い結果を与えるが、計算のしやすさや必要な情報量には違いがある。状況に応じて使い分けられる。
5.2 スコア検定
スコア検定は、帰無仮説の近傍で尤度関数の勾配を用いて仮説を評価する方法である。対立仮説側で完全に推定を行わなくてもよい点が利点となる。
特定のモデルでは、尤度比検定に近い性質を持ちながら、計算負担が軽くなることがある。初期段階の検定として利用されることもある。
5.3 ウォルド検定
ウォルド検定は、推定されたパラメータとその標準誤差を用いて仮説を評価する。パラメータが帰無仮説の値からどれだけ離れているかを見る点が特徴である。
尤度比検定と比べると、推定値の安定性に依存しやすい。大標本では近い結論に至ることが多いが、小標本では差が現れやすい。
5.4 情報量基準との比較
情報量基準は、仮説の棄却ではなく、モデルの相対的な良さを評価するための指標である。代表的なものにAICやBICがあり、尤度に罰則項を加えた形で定義される。
尤度比検定が二つの入れ子モデルの差を検証するのに対し、情報量基準は複数候補の中から最適なものを選ぶのに向いている。目的が近くても、判断の仕組みは異なる。