1.1 固有値問題の定式化
固有値問題は、n次正方行列Aに対して、零ベクトルでないベクトルvとスカラーλが
Av = λv
を満たすとき、λを固有値、vを固有ベクトルと呼ぶ。この等式は線形変換Aによってvの方向が変化せず、大きさのみがλ倍されることを意味する。固有値は実数または複素数であり、行列のサイズnに対して最大n個の固有値が存在する。
1.2 特性方程式と固有多項式
固有値λを求めるために、固有値問題を(A - λI)v = 0と書き換える。vが非零ベクトルであるためには、係数行列(A - λI)が特異行列である必要がある。したがって、行列式は
det(A - λI) = 0
となる。この方程式を特性方程式と呼び、左辺を展開して得られるλのn次多項式を固有多項式と呼ぶ。固有多項式の根が固有値となる。
1.3 代数的重複度と幾何学的重複度
代数的重複度は、固有多項式における特定の固有値の根の重複次数である。幾何学的重複度は、その固有値に対応する線形独立な固有ベクトルの最大個数であり、零空間(A - λI)の次元に等しい。
一般に、代数的重複度は幾何学的重複度以上となる。両者が一致する場合、行列は対角化可能である。幾何学的重複度が代数的重複度より小さい場合、固有値は退化していると言い、ジョルダン標準形への拡張が必要となる。
1.4 固有値の基本的性質（トレース、行列式との関係）
n次正方行列Aの固有値をλ₁, λ₂, ..., λₙとすると、以下の関係が成り立つ。
トレース（対角和）: tr(A) = λ₁ + λ₂ + ... + λₙ 行列式: det(A) = λ₁ × λ₂ × ... × λₙ
これらの関係は、固有値の総和が対角成分の和に等しく、積が行列式に等しいことを示す。また、転置行列の固有値は元の行列と同一であり、逆行列の固有値は元の固有値の逆数となる。対称行列の固有値はすべて実数であり、直交行列の固有値は絶対値が1である。
2.1 小規模行列に対する解析的解法
2次や3次の小規模行列に対しては、特性方程式を解析的に解くことで固有値を求めることができる。2次行列の場合、特性方程式は2次方程式となり、解の公式が適用可能である。3次行列ではカルダノの公式を用いるが、数値的な誤差が生じやすいため、実用的には後述の数値解法が好まれる。
2.2 数値的解法（QR法、べき乗法）
大規模行列に対しては数値的解法が用いられる。QR法は最も広く使われる手法であり、行列を直交行列Qと上三角行列Rに分解する操作を反復することで、対角要素に固有値が収束する。べき乗法は、最大絶対値を持つ固有値を求める反復法であり、ランダムなベクトルに行列を繰り返し適用することで、最大固有値に対応する固有ベクトルに収束させる。逆べき乗法は最小固有値を求めるために用いられる。
2.3 固有値分解と対角化
対角化可能な行列Aは、固有ベクトルを列とする行列Pと、固有値を対角要素とする対角行列Dを用いて
A = PDP⁻¹
と分解される。これを固有値分解と呼ぶ。対称行列の場合、Pは直交行列となり、A = QDQᵀと表される。固有値分解は行列のべき乗計算や微分方程式の解法において有用である。
3.1 主成分分析（PCA）
3.1.1 共分散行列の固有値と説明分散
主成分分析では、データの共分散行列の固有値が各主成分の分散を表す。最大固有値に対応する固有ベクトルが第一主成分の方向を示し、データの最大の分散方向を捉える。第k主成分の説明分散は、第k固有値を全固有値の総和で割った値で与えられ、データ全体の分散に対する寄与率を示す。
3.1.2 スクリープロットと次元選択
スクリープロットは、固有値を大きい順にプロットしたグラフであり、横軸に主成分番号、縦軸に固有値をとる。グラフの急激な減少が止まる点（エルボー点）以降の主成分はノイズとみなされ、次元削減の目安となる。カイザー基準（固有値1以上）もよく用いられる選択基準である。
3.2 因子分析と固有値基準
因子分析では、相関行列や共分散行列の固有値が因子抽出の基準として用いられる。カイザー基準（固有値1以上）は、説明力のある因子数を決定する簡便な手法である。スクリープロットも因子数の決定に利用される。また、共通性の推定には反復的な固有値計算が必要となる。
3.3 スペクトルクラスタリング
スペクトルクラスタリングは、グラフラプラシアン行列の固有ベクトルを用いてデータをクラスタリングする手法である。データ点間の類似度行列からラプラシアン行列を構築し、その最小固有値に対応する固有ベクトルを利用して低次元埋め込みを行い、k-means法などでクラスタリングを実行する。非凸形状のクラスタも検出可能であり、画像セグメンテーションやソーシャルネットワーク分析に応用される。
3.4 グラフラプラシアンの固有値とグラフ理論
グラフラプラシアンL = D - A（Dは次数行列、Aは隣接行列）の固有値はグラフの構造的特性を反映する。最小固有値は常に0であり、その重複度は連結成分の数に等しい。第二最小固有値（フィドラー固有値）はグラフの連結性の強さを示し、スペクトルギャップと呼ばれる。固有値の分布は、グラフの正則性、ランダムウォークの混合時間、コミュニティ構造の検出に利用される。
4.1 一般化固有値問題
一般化固有値問題は、2つの行列AとBに対して
Av = λBv
の形で定義される。通常の固有値問題はB = Iの場合に相当する。Bが正定値対称行列の場合、コレスキー分解を用いて標準的な固有値問題に変換可能である。一般化固有値問題は、振動解析における質量行列と剛性行列、線形判別分析における群間分散と群内分散の比の最適化などに現れる。
4.2 特異値分解（SVD）との関係
特異値分解（SVD）は、任意のm×n行列Mに対して
M = UΣVᵀ
と分解する手法であり、UとVは直交行列、Σは非負の特異値を対角要素とする行列である。Mの特異値の二乗は、MMᵀまたはMᵀMの固有値に等しい。SVDは固有値分解の一般化であり、正方行列でない行列にも適用可能である。主成分分析は、データ行列のSVDとして解釈できる。
4.3 固有値の感度分析と条件数
固有値の感度分析は、行列の微小な摂動が固有値に与える影響を評価する。固有値の条件数は、固有値の摂動の大きさを示す指標であり、特に非対称行列では固有値が摂動に対して敏感になる場合がある。バウアー＝ファイクの定理は、固有値の条件数が対応する左固有ベクトルと右固有ベクトルの内積の逆数で与えられることを示す。数値計算における安定性の評価や、逆問題の解析において重要である。