1 定義数学的基礎

1.1 白色性の定義

白色性とは、多変量確率変数ベクトル x の各成分が互いに無相関であり、かつ各成分の分散が等しいことを指す。数学的には、共分散行列単位行列 I に比例する形、すなわち Cov(x) = σ²I で表される(特にσ²=1の場合、完全な白色性と呼ぶ)。この性質は白色雑音統計的特性に由来し、白色化変換の最終目標となる。

1.2 共分散行列の分解

共分散行列は常に対称正定値行列であり、適切な分解を通じて白色化変換を構築できる。代表的な分解方法として固有値分解とコレスキー分解がある。

1.2.1 固有値分解による手法(PCA白色化)

共分散行列 Σ を固有値分解すると Σ = UΛUᵀ となる。ここで U は固有ベクトルからなる直交行列、Λ = diag(λ₁,...,λₙ) は固有値からなる対角行列である。白色化変換行列は W = Λ⁻¹ᐟ²Uᵀ で与えられ、変換後のデータ Wx の共分散行列は I となる。

1.2.2 コレスキー分解による手法

コレスキー分解では、Σ = LLᵀ と下三角行列 L に分解する。このとき W = L⁻¹ とすると、Wx の共分散行列は L⁻¹Σ(L⁻¹)ᵀ = I となる。コレスキー分解は固有値分解より計算コストが低いが、変換結果が元の空間座標軸を維持しない特性がある。

1.3 白色化変換の一般形

白色化変換は一般に、元のデータ x に対して線形変換 y = Wx を施す。変換行列 W は ΣWᵀW = I を満たす任意の行列であり、その自由度は回転成分(直交行列)の選択に起因する。異なる白色化手法は、この回転成分の選び方によって区別される。

2 白色化の種類とアルゴリズム

2.1 PCA白色化

PCA白色化は固有値分解に基づき、主成分方向の分散を1に正規化する手法である。変換行列は W_PCA = Λ⁻¹ᐟ²Uᵀ で与えられ、変換後のデータは主成分軸に沿って無相関かつ単位分散となる。データの回転(Uᵀ)を含むため、元の空間との対応関係は失われる。

2.2 ZCA白色化(ゼロ位相白色化)

ZCA白色化はPCA白色化にさらにUを乗じ、元の座標系に近い形を保つ手法である。変換行列は W_ZCA = UΛ⁻¹ᐟ²Uᵀ で与えられる。この変換は、元のデータの方向をできるだけ保持したまま白色化するため、画像処理などで視覚解釈が容易となる。

2.3 その他の手法

2.3.1 特異値分解(SVD)を用いた白色化

データ行列 X (サイズ m×n) を SVD 分解すると X = UΣVᵀ となる。白色化変換は VΣ⁻¹ または VΣ⁻¹Uᵀ の形で与えられる。SVD は共分散行列を陽に計算せずとも分解できるため、高次元データやランク落ちが生じる場合に数値的に安定である。

2.3.2 バッチ正規化との比較

バッチ正規化はニューラルネットワークの各層で入力平均0・分散1に正規化する手法であり、白色化と類似の効果を持つ。しかしバッチ正規化は次元ごとに独立に正規化するため次元間の相関は除去せず、白色化は全次元の相関を除去する点で異なる。白色化はより強い独立化を実現するが、計算コストは高い。

3 応用例

3.1 機械学習前処理

3.1.1 勾配法収束改善

損失関数のヘッセ行列が単位行列に近いほど、勾配降下法の収束は高速化する。白色化により入力データの共分散行列を単位行列化すると、特徴量スケールの不均一や相関によるヘッセ行列の悪条件化が緩和され、収束が改善される。

3.1.2 独立成分分析(ICA)への応用

ICA は観測信号を統計的に独立な成分に分解する手法であり、白色化は前処理として必須である。白色化により観測データの2次の統計量(分散・共分散)を除去しておくことで、ICAの目的関数が高次統計量にのみ依存するようになり、分解の精度と収束性が向上する。

3.2 画像処理とコンピュータビジョン

3.2.1 画像のコントラスト正規化

画像の局所領域に対して白色化を適用すると、領域内の輝度平均やコントラストの偏りを除去し、照明変化やコントラスト変動にロバストな特徴表現が得られる。これは特にテクスチャ解析や物体認識の前処理として有効である。

3.2.2 特徴量のデコリレーション

画像から抽出された特徴量(SIFT、HOGなど)は多くの場合互いに相関を持つ。白色化により特徴量間の相関を除去すると、その後の分類器(SVMなど)の識別性能が向上し、過学習も抑制される。

3.3 信号処理

3.3.1 通信チャネルの等価白色化

無線通信では、マルチパスフェージングにより受信信号に符号間干渉が生じる。受信側で白色化フィルタ(ホワイトニングフィルタ)を用いて雑音を白色化すると、後段の最尤系列推定(Viterbiアルゴリズムなど)の性能が最適化される。

4 実装上の注意点

4.1 数値的安定性と正則化

共分散行列の固有値が0に近い場合、Λ⁻¹ᐟ² の計算で数値的不安定が生じる。対策として、Λ に対角成分に微小な正則化項 εI を加える(例:ε = 1×10⁻⁶)。これにより変換行列の爆発的増大を防ぎ、数値的安定性が向上する。

4.2 データの平均中心化の必要性

白色化変換はデータの平均を考慮しないため、事前にデータの平均を0に中心化する必要がある。平均中心化を怠ると、変換後のデータの平均が0にならず、白色性の定義(平均0かつ共分散I)を満たさなくなる。

4.3 次元削減との併用

データの次元がサンプル数より大きい場合(p > n)、共分散行列はランク落ちし、白色化変換は一意に定まらない。この場合、PCA白色化と次元削減を組み合わせ、有効なランク(非ゼロ固有値)のみを使用する。これによりノイズ成分の増幅を防ぎつつ白色化が可能となる。

5 関連概念との関係

5.1 標準化との違い

標準化(Z-score正規化)は各次元を独立に平均0・分散1に変換するが、次元間の相関は除去しない。対して白色化は全次元の相関を除去し、かつ分散を均一化する。標準化は白色化の特殊ケース(共分散行列が対角行列の場合)とみなせる。

5.2 主成分分析(PCA)との関係

PCAはデータの分散を最大化する直交基底を求める手法であり、白色化の一種であるPCA白色化は、PCA変換後に分散を1に正規化したものに相当する。PCA白色化により得られた特徴量は各主成分の分散が均一化され、後続の処理(クラスタリング、分類)に有用となる。

5.3 逆白色化とデータ再生

白色化変換 y = Wx に対し、逆変換 x = W⁻¹y により元のデータを復元できる。この逆白色化操作は、白色化後のデータを処理した後、元の空間に戻す必要がある場合に使用される(例:画像のノイズ除去後)。Wが直交行列ではない場合でも、Wが可逆であれば逆変換が可能である。