1 背景と定義
1.1 主成分分析の基本概要
主成分分析（PCA）は、多変量データの構造を要約するための統計手法である。多数の相関を持つ変数から、データの分散を最大限説明する少数の合成変数（主成分）を抽出する。これにより、情報の損失を最小限に抑えながら次元削減を実現する。主成分分析は、共分散行列または相関行列の固有値分解に基づいて計算される。
1.2 主成分係数行列の数学的定義
主成分係数行列は、元の変数と主成分の間の線形結合を表す行列である。p個の元の変数がある場合、p×pの正方行列Aの要素a_{ij}は、第j主成分に対する第i変数の係数を示す。第j主成分y_jは、元の変数x_1, x_2, ..., x_pの線形結合としてy_j = a_{1j}x_1 + a_{2j}x_2 + ... + a_{pj}x_pと定義される。この行列は、元の変数空間から主成分空間への線形変換を完全に記述する。
1.3 固有ベクトルとの関係
主成分係数行列の各列は、データの共分散行列の固有ベクトルと一致する。固有値分解によって得られる固有ベクトルを固有値の大きい順に並べた行列が、主成分係数行列となる。第1主成分に対応する固有ベクトルは最大の固有値を持ち、データの最大分散方向を示す。この関係により、主成分係数行列は同時に座標系の回転行列としての役割を果たす。
2 数理的性質
2.1 直交性と正規化
主成分係数行列の列ベクトルは互いに直交し、かつ各ベクトルの長さは1に正規化されている。すなわち、A^T A = I（単位行列）が成り立つ。この直交性により、主成分間の相関はゼロとなり、各主成分は独立した情報を提供する。また、正規化により各係数の二乗和が1となるため、異なる主成分間での係数の比較が可能となる。
2.2 分散説明率との対応
各主成分に対応する固有値λ_jは、その主成分が説明するデータの分散量を表す。全分散に対する第j主成分の説明率はλ_j / Σλ_iで計算される。主成分係数行列の各要素に固有値の平方根を乗じた値（負荷量）は、元の変数と主成分間の相関係数を表す。これにより、各変数が各主成分にどの程度寄与しているかを定量的に評価できる。
2.3 回転可能性（バリマックス回転など）
主成分係数行列は、直交回転や斜交回転によって変更することが可能である。バリマックス回転は、各主成分への負荷量の二乗の分散を最大化する直交回転法であり、解釈性を向上させる。回転後も直交性は維持されるが、分散説明率の配分は変化する。この回転により、各主成分が特定の変数群と強く関連づけられるようになり、実世界での意味解釈が容易になる。
3 解釈と可視化
3.1 負荷量としての解釈
3.1.1 変数間の関係性の把握
主成分係数行列の要素は負荷量とも呼ばれ、各変数と各主成分の間の相関の強さを示す。絶対値が大きい負荷量ほど、その変数がその主成分に強く影響していることを意味する。同じ主成分に大きな負荷量を持つ変数群は互いに相関が高い傾向があり、データの背後にある潜在構造を明らかにする。負荷量の符号も重要で、正負が異なる変数はその主成分上で逆の方向に変動することを示す。
3.1.2 主成分の意味付け
各主成分は、大きな負荷量を持つ変数の特徴に基づいて解釈される。例えば、第1主成分にすべての変数が正の負荷量を示す場合、それは「総合指標」と解釈できる。第2主成分以降は、第1主成分と直交する方向の変動を捉え、対比的な構造（例えば「規模」と「効率性」）を反映することが多い。主成分の意味付けは分析者の知識と判断に依存する部分が大きい。
3.2 バイプロットによる可視化
バイプロットは、主成分スコアと主成分係数を同一平面上にプロットしたグラフである。元の変数は矢印（ベクトル）で表示され、その方向と長さが変数の主成分への寄与度を示す。長い矢印ほどその主成分への説明力が高く、矢印間の角度が小さいほど変数間の相関が高い。観測値は点で表示され、変数ベクトルとの位置関係から各観測値の特徴を直感的に把握できる。通常は第1主成分と第2主成分の組み合わせが使用される。
4 応用と限界
4.1 次元削減における利用
4.1.1 特徴選択への応用
主成分係数行列を用いて、各変数の重要度を評価し特徴選択に活用できる。第1主成分に高い負荷量を持つ変数や、複数の主成分にわたって大きな寄与を持つ変数が重要な特徴とみなされる。ただし、主成分分析は特徴抽出手法であり、直接的な特徴選択手法ではないため、選択結果は慎重に解釈する必要がある。係数行列を変数選択の参考情報として用いることが一般的である。
4.1.2 ノイズ除去への応用
主成分係数行列の逆変換を利用することで、データの再構成が可能となる。小さい固有値に対応する主成分を除外して逆変換すると、ノイズ成分が除去されたデータが得られる。具体的には、主成分係数行列の一部の列のみを使用してデータを低次元に投影し、その後元の空間に戻す操作を行う。これにより、信号対ノイズ比が向上したデータが得られる。
4.2 多変量データの探索的解析
主成分係数行列は、多変量データの構造を探索的に解析するための強力なツールである。多数の変数を持つデータセットにおいて、少数の合成変数で全体像を捉えることが可能となる。負荷量のパターンを分析することで、変数間の相関構造や潜在的なグループを発見できる。また、異常な変数や外れ値の検出にも役立つ。
4.3 注意点と限界
4.3.1 スケーリングの影響
主成分係数行列は変数のスケーリングに大きく影響される。単位や分散が大きく異なる変数が混在する場合、分散の大きい変数が主成分を支配してしまう。この問題を回避するためには、標準化（平均0、分散1）を施した相関行列に基づいてPCAを実行することが推奨される。標準化の有無によって主成分係数行列の値は変化するため、結果の解釈には使用したスケーリング方法を明記する必要がある。
4.3.2 解釈の曖昧さ
主成分は数学的に定義された合成変数であり、常に明確な実世界の意味を持つとは限らない。多数の変数にバランスよく負荷が分布する場合や、符号パターンが複雑な場合、主成分の解釈は困難になる。また、直交性の制約により現実の複雑なデータ構造を過度に単純化する危険性がある。回転法の適用や非線形PCAなどの拡張手法を検討することで、この問題を緩和できる場合がある。