1 同分散の基本概念
1.1 分散の定義と比較の考え方
同分散とは、複数の観測対象に関して「ばらつきの大きさ」が同じであるという条件を指す。ばらつきの尺度として統計では分散が用いられるため、分散が等しい状態を同分散と呼ぶ。分散は値が平均からどれだけ散らばりやすいかを表し、分布の形が同じとは限らないが、少なくとも散らばりの程度に差がないことを意味する。
同分散の比較は、しばしば「どの条件を揃えたときに分散が揃うか」によって定義される。たとえば、回帰では説明変数の値(またはその区間)によって誤差の散らばりが変わるかどうかが問題になる。したがって同分散は、単に全サンプルのばらつきが似ているという直感的な話にとどまらず、モデルが想定する系(確率変数や誤差の集合)ごとに比較される。
1.2 同分散の数学的表現
1.2.1 定義(確率変数・母分散)
確率変数 \(X\) の分散は通常 \(\mathrm{Var}(X)\) と表される。同分散の文脈では、複数の確率変数 \(X_1,\dots,X_k\) に対して \(\mathrm{Var}(X_1)=\cdots=\mathrm{Var}(X_k)\) が成り立つとき、これらが同分散であるという。母分散は未知であり得るため、実務では推定量を用いて同等性を評価する。
特に回帰分析の誤差項に関しては、誤差 \(\varepsilon\) が説明変数に依存せず一定の分散をもつ、という形で置かれることが多い。母分散が一定であるという前提は、分布そのものの一致を要求するものではなく、散らばりの程度だけが揃うことを要請する。
1.2.2 データ点ごとの分散が等しいとは何か
「データ点ごとの分散が等しい」とは、通常、各観測 \(i\) に対応する誤差項 \(\varepsilon_i\) の条件付き分散が同じであることを意味する。たとえば回帰で説明変数 \(x_i\) が与えられたときの誤差の分散が \(\mathrm{Var}(\varepsilon_i\mid x_i)=\sigma^2\) のように一定になる状況が想定される。
重要なのは、無条件の分散が等しいかではなく、モデルにより条件づけられる分散が同じかどうかである点である。条件付き分散が変化する(説明変数が大きくなるほど誤差が広がる等)場合、同分散は成立しない。さらに、同分散の成立度は現実には完全一致ではなく近似であることも多い。
1.3 関連する用語
1.3.1 異分散との対比
異分散は同分散の対立概念であり、複数の確率変数の分散が等しくない状態を指す。回帰でいえば、\(\mathrm{Var}(\varepsilon_i\mid x_i)\) が \(i\) や \(x_i\) によって変化する状況である。異分散があると、最小二乗法で得られる係数推定自体は条件によっては不偏のままでも、標準誤差や信頼区間、検定の誤り確率などが理論通りにならない可能性がある。
1.3.2 期待値と分散の役割分担
回帰や一般化したモデルでは、平均(期待値)と分散が役割を分けて扱われることが多い。典型的には、平均の条件(例:\(\mathbb{E}[\varepsilon_i\mid x_i]=0\))により「系統的なズレ」が説明変数側で処理され、分散の条件(例:\(\mathrm{Var}(\varepsilon_i\mid x_i)=\sigma^2\))により「散らばりの尺度」が一定とされる。両者の仮定は独立ではないが、同分散は主に分散側の整合性に関わる。
平均条件が崩れると、係数推定の解釈が変わったり、推定が系統的にずれる可能性が高まる。一方、同分散だけが崩れると、散らばりの大きさがモデル化され直されていないために推測手続きの精度や妥当性が影響を受けやすい。
2 回帰分析における同分散
2.1 古典的線形回帰モデルでの位置づけ
2.1.1 誤差項の分散一定の仮定
古典的線形回帰モデルでは、観測 \(y_i\) は \[ y_i = x_i^\top\beta + \varepsilon_i \] の形で表される。ここで同分散の仮定はしばしば \(\mathrm{Var}(\varepsilon_i\mid x_i)=\sigma^2\) として置かれる。加えて誤差間の独立性(または少なくとも相関のない構造)が併せて仮定されることが一般的である。
この仮定は推定と推測の設計に直接関係する。分散が一定であると、誤差のばらつきが説明変数の値域に依存しないため、線形回帰の誤差分布に基づく理論計算が簡潔になり、標準誤差の公式も導出しやすくなる。
2.1.1.1 「一定分散」の解釈と前提
「一定分散」は、データ全体で散らばりが均一という直感に近いが、厳密には条件付き分散の同一性を指す。具体的には、モデルが見ている説明変数の情報を踏まえたうえで、それに応じた誤差の分散が一定であることが要点になる。
また、一定分散が成り立つには、データ生成過程がそうなっている必要がある。測定誤差の増幅、集計単位の違い、変数のスケール変化、あるいは観測不能要因の影響が誤差の幅を変える場合には同分散が崩れやすい。したがって、この仮定は理論上の便利さだけでなく、実務上は妥当性の検討対象でもある。
2.1.2 同分散が成立するときの含意
同分散が成立すると、最小二乗法に基づく標準誤差の計算が理論通りに機能しやすい。とくに検定や信頼区間の精度に関する保証が得やすくなる。分散が一定であれば、係数推定量の分散が既知の形に整理され、誤差分散 \(\sigma^2\) を残差から推定して推測する枠組みが成立する。
さらに、同分散は推測の「重み」の公平性にも関わる。全観測で誤差のばらつきが同じなら、観測点ごとの情報量が同等になり、通常の最小二乗法が効率的な性質を持ちやすくなる。逆に異分散では、高精度な観測と低精度な観測が混在するため、均等重みのまま推測すると効率が落ちやすい。
2.2 最小二乗法との関係
2.2.1 不偏性と効率性
最小二乗法は、誤差項の平均が条件付きでゼロであることなどの仮定により、係数推定の不偏性が議論される。加えて同分散や独立性が成り立つ場合には、最小二乗法は分散最小の性質(いわゆる効率性)を得やすい。
効率性とは、同じ平均の仮定のもとで他の線形不偏推定量と比べて推定量のばらつきが小さい、という性質である。同分散が崩れると、最小二乗法の推定量は不偏のままでも、分散が大きくなったり、推測に使う標準誤差がズレることで誤差が大きく見積もられたり小さく見積もられたりする。
2.2.2 分散推定の考え方
同分散下では、誤差分散 \(\sigma^2\) を残差平方和から推定する通常の手続きが標準となる。具体的には、残差の平方和を自由度で割ったものが \(\sigma^2\) の推定に相当し、これが標準誤差の計算に反映される。
一方、異分散があるのに同分散に基づく推定器を使うと、標準誤差の誤差が体系的に生じる。すると、係数の有意性判断の誤り確率が理論の想定から外れる。したがって、分散推定の前提は同分散の成立可能性と結び付いている。
3 同分散性の検定と診断
3.1 視覚的診断
3.1.1 残差プロット
残差プロットは、同分散の可能性を直感的に評価するための基本的手法である。一般に、縦軸に残差、横軸に予測値や説明変数を取ると、残差の散らばりが横方向に均一かどうかが見える。点が特定の領域で上下に広がる、あるいは扇形の形を示す場合は、誤差分散が条件に応じて変化している可能性がある。
この診断は手早い反面、サンプルが少ないと形の判断が難しく、また他の要因(モデルの欠落、非線形性)によっても残差パターンが変わり得る。したがって、視覚判断は検定と併用して解釈するのが望ましい。
3.1.2 フィットとばらつきの関係の確認
フィット(予測の当たり具合)との関連を見ることも重要である。たとえば、予測値が大きい側で残差が大きくなりやすい場合、説明変数の値域で誤差の強弱が変化している可能性が高い。これは単なる偶然の揺らぎではなく、条件付き分散の変化を示唆する典型パターンである。
また、残差の平均がゼロからずれている場合は同分散の問題とは別に、平均の構造が適切でない可能性がある。残差の分布の「位置」と「広がり」を分けて確認することで、診断の精度を上げられる。
3.2 統計的検定
3.2.1 ブレウシュ=パーガン検定
ブレウシュ=パーガン検定は、誤差分散が説明変数の関数になっているかどうかを検討するための代表的な手続きである。回帰の残差平方を従属変数として補助回帰を行い、説明変数が分散を説明できるかを統計量で評価する。
帰無仮説は同分散(少なくとも指定した形で分散が一定)に対応し、拒却が起きると異分散の可能性が示される。ただし、検定の感度は異分散の作り方やモデル化された関係の選び方に依存するため、結果は診断や他の手法と整合的かどうかを確認する必要がある。
3.2.2 ホワイト検定
ホワイト検定は、説明変数の二次項や交差項などを使って異分散を柔軟に捉えようとする枠組みで知られる。残差平方を説明する補助回帰において、線形項だけでなく非線形の組み合わせも含めることで、さまざまなパターンの分散変化に対して検出力を高める狙いがある。
同分散を帰無仮説とし、統計量によりその妥当性を評価する。係数項が増えるため、サンプルサイズが小さい場合には推定の不安定さが問題になり得る。また、モデルが過剰に複雑になると解釈が難しくなるため、結果は実務判断と合わせて扱う。
2.2.3 その他の検定の位置づけ
同分散性の検定には他にも多様な流儀がある。例として、順位に基づく手法、中心化した残差を用いる手法、分散の変化が特定の構造に従うと仮定する手法などがある。どの検定も「同分散がどの程度の条件で意味を持つか」「異分散の形をどれだけ柔軟に捉えるか」が異なる。
そのため、単一の検定結果に依存せず、残差プロット、モデルの妥当性(欠落変数や非線形性)、検定の前提(独立性や分布近似)を総合して判断することが重要になる。統計的検定は有意性だけでなく、効果の大きさや実務上の影響(推測の精度低下)にも注意を払うべきである。
3.3 検定結果の読み取り
3.3.1 棄却・非棄却の意味
検定では、帰無仮説として同分散が置かれることが多い。棄却は「同分散を仮定したモデルがデータと整合しない」可能性を示すが、異分散の正確な形を確定するわけではない。非棄却は「少なくとも検定が検出できる範囲では、同分散の仮定と矛盾がない」という意味にとどまる。
したがって読み取りでは、棄却か非棄却かを意思決定の最終結論として扱うより、次の検討(修正モデル、頑健化、変換など)につなげる方が実務上有用である。検定の性質上、サンプルや異分散の強さにより判断が変わり得る点にも留意が必要である。
3.3.2 サンプルサイズと検出力の影響
サンプルサイズは検出力に大きく影響する。大きなデータでは小さな非一致でも棄却されやすく、結果が「統計的には有意だが実務的には軽微」という状況になり得る。逆に小標本では効果があっても検出できず、非棄却が続く可能性がある。
検出力は、異分散の種類とモデルの当て方にも左右される。検定が想定する形に異分散が合致しない場合、棄却に至らないことがある。よって、検定結果を受けては、残差のパターンや推定量の安定性を確認し、意思決定に必要な情報に変換する必要がある。
4 同分散が崩れた場合の対処
4.1 異分散対応の代表的手法
4.1.1 ロバスト標準誤差
ロバスト標準誤差は、同分散を仮定しない形で推定量の分散を評価するための実務的手段である。係数推定そのものは最小二乗法のままでも、標準誤差と検定統計量の計算に異分散を織り込んだ推定を用いることで、推測の妥当性を改善できる場合がある。
この方法は、同分散が弱い仮定であるときに特に使いやすく、モデルの改変なしで手続きの頑健化ができる。ただし、独立性の仮定の扱い、クラスタ構造の有無、分散の推定誤差などには注意が必要である。
4.1.2 重み付き最小二乗法
重み付き最小二乗法は、各観測の誤差分散の大きさに応じて重みを付け、低精度な観測の影響を抑える発想である。異分散の分散構造をある程度モデル化し、その逆分散に比例する重みを用いて推定することで、効率性の改善を狙う。
具体的には、誤差分散が説明変数の関数として表せるときに有効である。分散構造の誤設定があると期待する効果が得られず、むしろ推定が不安定になる可能性もある。したがって、適用には分散モデルの妥当性の検討が不可欠である。
4.2 モデリングによる改善
4.2.1 分散構造の導入
分散が変化すること自体をモデルに組み込む方法として、分散関数を明示的に推定したり、誤差分散を説明変数に従属させる枠組みを使ったりすることがある。これにより、異分散のパターンが推定過程で考慮されるため、推測がより整合的になることが期待できる。
分散構造の導入は、同分散の仮定を取り払うだけでなく、どの要因がばらつきに影響するのかを解釈可能にする利点もある。反面、モデルの複雑さが増えるため、過学習や識別性の問題に配慮し、妥当な形の選択が必要になる。
4.2.2 変数変換・再設計
分散の非一定性は、スケール変化や極端値の影響によって現れることがある。変数変換(例:対数変換、平方根変換など)や目的変数の再設計により、誤差分散がより一定に近づく場合がある。これは異分散を直接推定しない代替策として有用になり得る。
変換の選択は、残差パターンや理論的妥当性、解釈の継続性など複数の観点で行われる。変換により係数の意味が変わることもあるため、結果の説明可能性を損なわない設計が求められる。
4.3 実務上の注意
4.3.1 仮定の妥当性と限界
異分散対応を行う際も、前提となる仮定の完全な消失は起こらない。ロバスト標準誤差は同分散を緩めるが、独立性や適切な分散推定の安定性といった条件は残る。重み付き最小二乗法は分散構造の正確さが重要であり、仮定のミスマッチがリスクになる。
また、観測誤差の構造、欠測の仕方、時系列性やクラスタの存在などが絡むと、単なる異分散の問題ではなく、相関や別の偏りを同時に扱う必要が生じる。したがって、診断と対処を「同分散の有無」だけに還元せず、モデル全体の整合性として点検する姿勢が重要になる。
4.3.2 レポーティングの実務(検定手順・使用モデル)
実務では、同分散性の評価と対処を再現可能な形で記録することが求められる。具体的には、用いた診断(残差プロット等)や検定名、前提(利用した検定の条件)、有意水準、結果の解釈、そして採用した対処(ロバスト標準誤差、重み付き最小二乗法、変換など)を明確にする。
また、どの推定量の標準誤差を報告したか、係数の解釈が変わる変換を実施したか、モデル選択の理由があるかといった点も併記すると、読者が結果を評価しやすい。最後に、同分散の改善後に残差の再点検を行ったか、あるいは追加診断を実施したかを述べることで、検証の筋道が整う。