1 定義と基本性質
直交（Orthogonality）は、線形代数および解析学において、2つのベクトルや関数が互いに独立しており、内積がゼロとなる関係を指す基本概念である。幾何学的には垂直を意味し、特にユークリッド空間では直角を成すベクトルとして定義される。直交性は基底の正規直交化、最小二乗法、フーリエ解析、量子力学など多岐にわたる分野で応用され、数学的構造の簡略化や直交分解の基盤を提供する。
1.1 内積空間における直交性
内積空間とは、ベクトル空間に内積と呼ばれる双線形形式が定義された空間である。2つのベクトル \(u, v\) の内積 \(\langle u, v \rangle\) がゼロであるとき、これらのベクトルは直交するという。この定義は有限次元および無限次元の両方の内積空間に適用される。
1.1.1 ユークリッド空間のベクトル
ユークリッド空間 \(\mathbb{R}^n\) では、標準内積 \(\langle u, v \rangle = u_1 v_1 + u_2 v_2 + \cdots + u_n v_n\) を用いる。2つのベクトルが直交する条件は、それらの成分の積和がゼロとなることである。幾何学的には、2つのベクトルのなす角が90度であることを意味し、これはピタゴラスの定理と密接に関連する。
1.1.2 関数空間の直交性
関数空間では、区間 \([a, b]\) 上の連続関数 \(f, g\) に対して、内積 \(\langle f, g \rangle = \int_a^b f(x) g(x) \, dx\) が定義される。この内積がゼロとなるとき、関数 \(f\) と \(g\) は直交するという。例えば、区間 \([-\pi, \pi]\) 上の \(\sin\) と \(\cos\) 関数は互いに直交する。
1.2 直交補空間
内積空間 \(V\) の部分空間 \(W\) に対して、\(W\) に属するすべてのベクトルと直交するベクトル全体の集合を \(W\) の直交補空間といい、\(W^\perp\) と表記する。直交補空間は \(V\) の部分空間であり、\(W \cap W^\perp = \{0\}\) が成り立つ。さらに、有限次元内積空間では \(V = W \oplus W^\perp\) と直和分解される。
1.3 直交性の拡張
1.3.1 重み付き内積
重み付き内積とは、正の重み関数 \(w(x)\) を導入した内積 \(\langle f, g \rangle_w = \int_a^b f(x) g(x) w(x) \, dx\) のことである。この内積の下での直交性は、直交多項式の理論などで重要な役割を果たす。重み関数の選択により、異なる直交系が得られる。
1.3.2 双線形形式における直交性
内積の代わりに一般の対称双線形形式 \(B(u, v)\) を用いて、\(B(u, v) = 0\) をもって直交性を定義することもできる。この拡張は、擬ユークリッド空間や相対性理論など、内積が正定値でない場合にも適用される。ただし、この場合自己直交（等方的な）ベクトルが存在しうる点に注意を要する。
2 直交基底と正規直交基底
2.1 直交基底の定義
| 内積空間 \(V\) の基底 \(\{v_1, v_2, \dots, v_n\}\) が、任意の \(i \neq j\) に対して \(\langle v_i, v_j \rangle = 0\) を満たすとき、これを直交基底という。さらに各ベクトルのノルムが1である場合、すなわち \(\|v_i\| = 1\) であるとき、正規直交基底と呼ぶ。正規直交基底を用いると、ベクトルの内積や成分計算が著しく簡略化される。 |
|---|
2.2 グラム・シュミット直交化法
2.2.1 アルゴリズムの手順
グラム・シュミット直交化法は、任意の線形独立なベクトル集合から直交基底を構成するアルゴリズムである。手順は以下の通り：まず最初のベクトル \(u_1\) をそのまま取る。次に \(v_2\) から \(u_1\) 方向の成分を除去して \(u_2\) を得る。一般に、\(u_k = v_k - \sum_{i=1}^{k-1} \frac{\langle v_k, u_i \rangle}{\langle u_i, u_i \rangle} u_i\) と計算する。最後に各ベクトルを正規化すれば正規直交基底が得られる。
2.2.2 数値的安定性
古典的なグラム・シュミット法は数値的に不安定であり、丸め誤差が蓄積しやすい。改良版として修正グラム・シュミット法が用いられる。これは各直交化ステップで逐次的にベクトルを更新する手法であり、計算精度が向上する。また、QR分解を用いる方法も数値的に安定である。
2.3 正規直交基底の性質
正規直交基底を用いると、任意のベクトル \(x\) は基底ベクトルとの内積を係数として \(x = \sum_i \langle x, e_i \rangle e_i\) と展開される。これはフーリエ級数展開の一般化であり、座標変換が直交行列によって実現されるため、計算効率が高い。
2.3.1 フーリエ級数への応用
三角関数系 \(\{\frac{1}{\sqrt{2\pi}}, \frac{\sin x}{\sqrt{\pi}}, \frac{\cos x}{\sqrt{\pi}}, \frac{\sin 2x}{\sqrt{\pi}}, \dots\}\) は区間 \([-\pi, \pi]\) 上の正規直交基底をなす。この基底による展開がフーリエ級数であり、周期関数の解析に不可欠である。正規直交性により、フーリエ係数は簡単な積分計算で求められる。
2.3.2 座標変換の簡便化
正規直交基底への座標変換は、内積を保存する等長変換となる。これにより、ベクトルの長さや角度が不変に保たれる。例えば、主成分分析ではデータの分散を最大化する方向を正規直交基底として選ぶことで、次元削減が容易になる。
3 直交行列と直交変換
3.1 直交行列の定義と性質
直交行列とは、実正方行列 \(Q\) で \(Q^T Q = Q Q^T = I\) を満たすものである。すなわち、その転置が逆行列に等しい行列である。直交行列はユークリッド空間における内積とノルムを保存する変換を表現する。
3.1.1 行列式と逆行列
直交行列 \(Q\) の行列式は \(\det(Q) = \pm 1\) である。\(\det(Q)=1\) の場合を回転（回転行列）、\(\det(Q)=-1\) の場合を鏡映（反射行列）という。逆行列は転置で与えられるため、計算が容易である。
3.1.2 固有値の絶対値
直交行列の固有値はすべて絶対値が1である。すなわち、固有値は複素平面上の単位円上に存在する。実直交行列の場合、固有値は \(\pm 1\) または共役な複素数ペアとして現れる。この性質は、直交変換が長さを保存することの帰結である。
3.2 直交変換の幾何学的意味
直交変換はユークリッド空間上で内積を保存する線形変換であり、等長変換（合同変換）の一種である。原点を固定する等長変換はすべて直交変換で表現される。
3.2.1 回転と鏡映
| 2次元における回転行列 \(R_\theta = \begin{pmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{pmatrix}\) は行列式1の直交行列である。一方、鏡映行列 \(H = I - 2 \frac{v v^T}{\|v\|^2}\) は行列式-1の直交行列であり、ある超平面に関する反射を表す。任意の直交変換は、回転と鏡映の合成として表される。 |
|---|
3.2.2 等長変換としての特性
| 直交変換は任意のベクトル \(x, y\) に対して \(\|Qx\| = \|x\|\) および \(\langle Qx, Qy \rangle = \langle x, y \rangle\) を満たす。したがって、直交変換はベクトル間の距離や角度を変えず、図形の形状を保存する。これは剛体運動の数学的表現である。 |
|---|
3.3 直交行列の分解
3.3.1 QR分解
任意の実行列 \(A\) は、直交行列 \(Q\) と上三角行列 \(R\) の積 \(A = QR\) に分解できる。これをQR分解という。QR分解は線形方程式の解法や固有値計算に広く利用される。特にグラム・シュミット直交化法はQR分解の一実装とみなせる。
3.3.2 特異値分解との関連
特異値分解 (SVD) は任意の行列を \(A = U \Sigma V^T\) と分解する。ここで \(U, V\) は直交行列、\(\Sigma\) は対角行列である。SVDは直交行列を用いた行列の標準形であり、データ圧縮や擬似逆行列の計算に重要である。直交行列 \(Q\) のSVDは \(Q = Q I I\) と自明になる。
4 直交多項式
4.1 定義と一般的性質
直交多項式系とは、ある区間上で重み付き内積に関して互いに直交する多項式の列 \(\{p_n(x)\}\) であり、各 \(p_n\) の次数は \(n\) である。直交多項式は数値解析、近似理論、物理学などで広く用いられる。
4.1.1 内積と直交性条件
直交多項式の内積は \(\langle p_m, p_n \rangle = \int_a^b p_m(x) p_n(x) w(x) \, dx = 0 \quad (m \neq n)\) で定義される。重み関数 \(w(x)\) は区間上で正であり、積分が収束するように選ばれる。異なる重みと区間の組み合わせにより、様々な直交多項式系が生まれる。
4.1.2 3項漸化式
任意の直交多項式系は、次の3項漸化式を満たす：\(p_{n+1}(x) = (x - \alpha_n) p_n(x) - \beta_n p_{n-1}(x)\)。ここで \(\alpha_n, \beta_n\) は重み関数と区間に依存する定数である。この漸化式は直交多項式の数値計算に極めて有用である。
4.2 主要な直交多項式系
4.2.1 ルジャンドル多項式
ルジャンドル多項式 \(P_n(x)\) は区間 \([-1, 1]\) 上で重み \(w(x)=1\) の直交多項式である。\(P_n(1)=1\) で正規化され、ロドリゲスの公式 \(P_n(x) = \frac{1}{2^n n!} \frac{d^n}{dx^n} (x^2-1)^n\) で与えられる。物理やポテンシャル理論に頻出する。
4.2.2 チェビシェフ多項式
チェビシェフ多項式には第1種 \(T_n(x)\) と第2種 \(U_n(x)\) がある。第1種は区間 \([-1, 1]\) 上で重み \(w(x)=1/\sqrt{1-x^2}\) に関して直交し、\(T_n(\cos\theta)=\cos(n\theta)\) と定義される。最小二乗近似の誤差を最小化する性質を持ち、数値近似に優れる。
4.2.3 エルミート多項式
エルミート多項式 \(H_n(x)\) は区間 \((-\infty, \infty)\) 上で重み \(w(x)=e^{-x^2}\) に関して直交する。量子力学における調和振動子の波動関数に現れる。物理学者の定義と確率論者の定義が存在するが、いずれも直交性を有する。
4.2.4 ラゲール多項式
ラゲール多項式 \(L_n^{(\alpha)}(x)\) は区間 \([0, \infty)\) 上で重み \(w(x)=x^\alpha e^{-x}\) に関して直交する。水素原子の動径波動関数など量子力学で重要な役割を果たす。\(\alpha=0\) のとき単にラゲール多項式と呼ばれる。
4.3 数値積分への応用
4.3.1 ガウス求積法
直交多項式の根を積分点とする数値積分公式をガウス求積法という。\(n\) 点ガウス求積法は、次数 \(2n-1\) 以下の多項式を厳密に積分できる。積分点と重みは直交多項式の性質から一意に定まる。
4.3.2 誤差解析
ガウス求積法の誤差は被積分関数の高階導関数に依存する。特に、被積分関数が滑らかであるほど収束が速い。チェビシェフ多項式を用いたクレンショー・カーティス求積法も広く使われるが、ガウス求積法の方が同じ点数でより高精度である。
5 直交関数系とフーリエ解析
5.1 周期関数における直交性
5.1.1 三角関数系
周期 \(2\pi\) の関数を対象とするとき、三角関数系 \(\{\sin(kx), \cos(kx) : k=0,1,2,\dots\}\) は区間 \([-\pi, \pi]\) 上で直交系をなす。具体的には、\(\int_{-\pi}^{\pi} \sin(mx) \sin(nx) dx = \pi \delta_{mn}\)（ただし \(m,n>0\)）などが成り立つ。
5.1.2 複素指数関数系
オイラーの公式を用いると、三角関数系は複素指数関数系 \(\{e^{ikx} : k \in \mathbb{Z}\}\) に統合される。この系は \(\int_{-\pi}^{\pi} e^{imx} e^{-inx} dx = 2\pi \delta_{mn}\) を満たす。複素形式はフーリエ解析の理論をより簡潔にする。
5.2 直交級数展開
5.2.1 フーリエ級数
周期関数 \(f(x)\) は、直交系を用いて \(f(x) = a_0 + \sum_{k=1}^\infty (a_k \cos(kx) + b_k \sin(kx))\) と展開できる。係数 \(a_k, b_k\) は直交性を利用して積分により求められる。フーリエ級数は偏微分方程式の解法や信号処理の基礎である。
5.2.2 一般化フーリエ級数
直交多項式や他の直交関数系を用いた級数展開を一般化フーリエ級数と呼ぶ。例えば、ルジャンドル多項式展開やエルミート多項式展開などがある。係数は直交性を用いて内積計算で得られ、直交基底による展開の普遍的な枠組みを提供する。
5.3 直交ウェーブレット
5.3.1 マルチレゾリューション解析
ウェーブレット解析は、時間と周波数の両方に局在した基底を用いる手法である。マルチレゾリューション解析 (MRA) は、異なるスケールの近似空間の系列を用いて関数を階層的に分解する。直交ウェーブレット基底は、MRAにおいてスケール関数とウェーブレット関数の直交性によって構成される。
5.3.2 ハールウェーブレット
ハールウェーブレットは最も単純な直交ウェーブレットであり、区間 \([0,1]\) 上の矩形関数で構成される。スケール関数 \(\phi(x)=1_{[0,1)}(x)\) とウェーブレット関数 \(\psi(x)=1_{[0,1/2)}(x)-1_{[1/2,1)}(x)\) が基本となる。ハールウェーブレットは直交性とコンパクトサポートを持ち、画像圧縮や信号解析の入門として重要である。
6 応用と関連分野
6.1 最小二乗法と直交射影
最小二乗法は、過剰決定系の方程式の近似解を求める手法である。解は観測ベクトルを推定値の空間へ直交射影したものとして得られる。
6.1.1 正規方程式
| 線形最小二乗問題 \(\min_x \|Ax - b\|^2\) の解は、正規方程式 \(A^T A x = A^T b\) を満たす。ここで \(A\) の列空間への直交射影行列は \(P = A(A^T A)^{-1} A^T\) で与えられる。 |
|---|
6.1.2 射影行列
射影行列 \(P\) は \(P^2=P\) かつ \(P^T=P\) を満たす。直交射影は任意のベクトルを部分空間へ写像し、残差がその部分空間と直交する。QR分解を用いると射影行列を数値的に安定して計算できる。
6.2 量子力学における直交状態
量子力学では、物理状態はヒルベルト空間の単位ベクトルで表される。異なる状態が直交することは、それらが完全に区別可能であることを意味する。例えば、エネルギー固有状態は異なる固有値に対して直交する。直交基底の選択は観測量の測定と密接に関係する。
6.3 情報理論における直交符号
符号分割多元接続 (CDMA) では、各ユーザに直交符号系列を割り当てることで、同時通信を可能にする。直交符号は互いに内積がゼロであり、受信側で各ユーザの信号を分離できる。ウォルシュ符号や直交周波数分割多重 (OFDM) が実用的な例である。
6.4 統計学における直交計画
実験計画法において、直交計画とは因子の効果を独立に推定できるような実験配置のことである。直交表を用いると、各因子の水準の組み合わせが均等に現れ、交互作用の推定も容易になる。これにより効率的な実験とデータ解析が可能となる。