1 基本概念
1.1 定义
正交化是指将一组对象通过一定的构造步骤，转换为彼此正交，或进一步正交归一的过程。在线性代数中，这一过程最常见的对象是向量组，但在更广泛的数学语境下，也可以推广到函数系、多项式族以及某些矩阵表示形式。
从操作结果看，正交化通常保留原对象所张成的空间结构，即新得到的对象与原对象在生成同一子空间、同一展开体系等方面具有对应关系。它并不单纯追求“互不相关”，而是通过内积意义下的几何关系，使对象之间的相互作用更易于分析。
1.2 正交与正交归一
若两个对象的内积为零，则称它们正交。对向量而言，这意味着它们在几何上互相垂直；对函数而言，则表示在所给内积下它们彼此独立到一定程度。若对象不仅两两正交，而且每个对象的长度都等于1，则称其正交归一。
正交归一比单纯正交更方便用于计算，因为它使投影系数、展开系数和坐标表达式更加简洁。许多算法先构造正交组，再进一步归一化，以得到更标准的表示。
1.3 正交化的目标
正交化的核心目标有三类。第一，是简化运算。正交对象之间的内积关系明确，展开、投影和系数求取都较直接。第二，是提高稳定性。数值计算中，正交结构往往有助于降低误差累积。第三，是建立规范表示。许多分解定理和计算方法都依赖正交基或正交系统作为中间形式。
在实际问题中，正交化常被用来把“相互纠缠”的表示转化为层次清晰、便于处理的结构。
1.4 适用对象
正交化并不局限于单一类型的数学对象，只要对象所在空间配备了合适的内积结构，就可以讨论正交化。
1.4.1 向量组
向量组是正交化最典型的对象。给定一组线性无关向量，可以构造一组与之张成相同空间的正交向量，或进一步得到正交归一基。这在欧几里得空间和一般有限维内积空间中都十分常见。
1.4.2 函数系
在函数空间中，若定义了适当的内积，就可以将一组函数正交化。此类方法广泛出现在傅里叶分析、特殊函数理论以及微分方程的展开解中。函数正交化的结果通常表现为一组便于展开和积分计算的正交函数族。
1.4.3 多项式与矩阵表示
多项式族也可以在某种内积下进行正交化，从而形成正交多项式。另一方面，在矩阵计算中，正交化常通过分解或变换方式体现为矩阵列向量的正交化处理。此时，问题往往不再直接表述为“构造向量”，而是转化为“提取正交结构”。
2 理论基础
2.1 内积空间
正交化依赖内积空间这一基本框架。内积提供了长度、角度和正交等概念，使对象之间的关系能够用代数方式刻画。没有内积，就无法自然定义正交，也就难以谈论正交化。
内积空间既包括有限维欧几里得空间，也包括许多函数空间。不同空间中的正交化形式可能不同，但理论核心一致，即通过内积控制对象之间的相互关系。
2.2 线性相关与线性无关
正交化通常建立在线性无关对象之上。若一组向量线性无关，则可以在保留其张成空间的前提下构造出正交组。若原对象线性相关，则正交化过程中会出现某些步骤失效，通常意味着其中某些向量可由前面向量表示，应予以剔除或另行处理。
因此，线性无关性不仅是正交化的前提之一，也影响最终结果的维数与结构。
2.3 投影与分解
正交化的基本思想与投影密切相关。给定一个向量或函数，可以将其分解为沿某个子空间的投影部分以及与之正交的余量。正交化过程实质上就是反复利用这种分解，将新对象中的“已解释部分”减去，保留剩余的独立成分。
这种逐步分解使得每一步得到的对象都与之前对象正交，从而形成递进式的构造链条。
2.4 正交补空间
正交补空间是与给定子空间中所有对象都正交的对象集合。它为正交化提供了自然的几何背景：若希望构造一个与已有系统正交的新对象，可以从正交补空间中寻找。
在有限维情形中，空间常可分解为子空间与其正交补空间的直和。这种结构使正交化不仅是构造方法，也是一种空间分解工具。
3 正交化方法
3.1 格拉姆-施密特正交化
格拉姆-施密特正交化是最经典的正交化方法之一。其基本思想是按顺序处理向量，将每个新向量中沿前面已构造向量方向的分量去除，从而得到正交向量组。
3.1.1 经典格拉姆-施密特过程
经典过程从第一向量开始，依次对后续向量做投影扣除。若已得到前若干个正交向量，则新向量通过减去其在这些向量上的投影，便得到与前者都正交的剩余部分。这个剩余部分若非零，就可作为新的正交向量加入序列。
该过程直观清晰，便于手工推导，但在浮点计算中可能受到舍入误差影响。
3.1.2 改进格拉姆-施密特过程
改进过程对投影扣除的顺序和实现方式作了调整，通常以更好的数值表现著称。它在本质上与经典过程等价，但在实际计算中更能减少由于有限精度带来的正交性损失。
因此，在数值线性代数中，改进版本往往更常被采用。
3.1.3 正交归一化步骤
在得到正交向量组后，通常还要将每个向量除以其长度，以获得正交归一组。这个步骤简单却重要，因为单位长度使后续投影公式和坐标表达更为统一。
正交归一化也有助于将结果与标准基的形式联系起来，从而便于比较与应用。
3.2 基于矩阵分解的正交化
对于以矩阵形式给出的向量组，正交化常可通过矩阵分解实现。此类方法直接面向计算，尤其适合大规模问题。
3.2.1 QR分解
QR分解将一个矩阵分解为一个具有正交列的矩阵与一个上三角矩阵的乘积。其本质上与正交化密切相关，因为正交列向量可视为原矩阵列空间的正交基，而上三角部分记录了两组基之间的变换关系。
这一分解在求解线性方程组和最小二乘问题中十分常用。
3.2.2 Householder变换
Householder变换通过构造反射矩阵，将向量或矩阵的某些分量逐步消去。它常用于高效、稳定地实现QR分解，从而间接完成正交化。
这种方法的优点在于可以批量处理矩阵列，并且通常具有较好的数值稳定性。
3.2.3 Givens旋转
Givens旋转通过在二维平面内施加旋转，把特定元素消为零。对于稀疏矩阵或需要局部更新的场景，这种方法很实用。它同样可用于构造正交矩阵，并逐步实现正交化目标。
与Householder变换相比，Givens旋转在局部控制方面更灵活，适合选择性消元。
3.3 连续对象的正交化
3.3.1 函数正交化
函数正交化是在函数空间内构造一组彼此正交的函数。它常以积分内积为基础，例如在区间上对函数乘积积分得到内积值。通过类似格拉姆-施密特的思想，可以把一般函数系转化为正交函数系。
这类方法在谱方法、近似理论和特殊函数构造中都有重要作用。
3.3.2 正交多项式构造
正交多项式是一类彼此在某个权函数下正交的多项式。其构造方式通常从幂函数族出发，经过正交化过程得到。经典例子包括勒让德多项式、切比雪夫多项式和拉盖尔多项式等。
正交多项式在数值积分、逼近论和物理模型中用途广泛。
4 性质与定理
4.1 正交化的存在性
在有限维内积空间中，只要给定一组线性无关向量，就总能构造出与之张成相同子空间的正交组，进一步还可得到正交归一基。这个结论保证了正交化作为方法的普遍可行性。
在函数空间中，是否存在正交化则取决于具体空间结构、内积定义以及对象族的性质。
4.2 唯一性与非唯一性
正交化结果通常不唯一。即使原始向量组固定，只要允许对构造顺序、符号选择或归一化方向作调整，得到的正交组就可能不同。某些情形下，不同的正交化结果只差一个正交变换或若干符号因子。
因此，正交化更应被理解为一种等价构造，而非唯一标准答案。
4.3 与基变换的关系
正交化可以看作一种特殊的基变换。原向量组经过处理后，得到的新组仍然生成同一空间，只是坐标表达更规整。若进一步得到正交归一基，则基变换对应的矩阵也具有更好的结构性质。
这种关系使正交化成为研究坐标系统与空间结构的重要工具。
4.4 与维数和秩的关系
正交化过程中保留下来的非零向量个数，与原对象所张成空间的维数一致。若以矩阵表示，能够成功得到的正交列数与矩阵秩密切相关。换言之，正交化不仅反映空间结构，也反映独立信息的数量。
因此，它常被用作判断有效维度的一种方式。
5 计算与数值分析
5.1 误差传播
在有限精度运算中，正交化中的投影、减法和归一化都会引入舍入误差。若处理顺序不当，这些误差可能在后续步骤中积累，导致结果偏离理想正交关系。
误差传播问题尤其在长向量序列或大规模矩阵处理中明显，因而算法设计必须兼顾形式正确与数值可靠。
5.2 数值稳定性
数值稳定性是正交化算法选择的重要标准。某些理论上正确的方法，在浮点环境下可能出现明显的正交性丧失；而更稳定的算法则能更好地保持结果的几何性质。
因此，在实际计算中，人们往往更偏好经过改良的过程或基于矩阵分解的实现方式。
5.3 病态问题中的处理
当原始对象几乎线性相关，或者尺度差异极大时，正交化会面临病态问题。此时，微小误差就可能显著影响结果，甚至造成某些向量被误判为零向量。
应对此类问题，通常需要采用更稳定的算法、重新缩放数据，或结合秩判定策略进行处理。
5.4 计算复杂度
正交化的计算代价与对象数量、维数以及具体算法有关。经典逐步方法实现简单，但在大规模场景下可能不够高效。矩阵分解型方法通常更适合程序化实现，也更便于在现代计算环境中优化。
在实际应用中，算法选择往往是在精度、速度和存储需求之间折中。
6 典型应用
6.1 线性方程组求解
正交化可用于将线性方程组转化为更容易处理的形式。特别是在结合QR分解时，可以避免直接求逆带来的不稳定问题。通过正交矩阵变换，问题可被化简为上三角系统，从而更便于回代求解。
6.2 最小二乘法
在超定方程组和拟合问题中，最小二乘法常借助正交化实现。正交基能使误差投影的表达更清晰，也使系数估计更稳定。QR方法尤其适合此类问题，因为它直接把拟合问题转化为规范的代数计算。
6.3 特征值问题
在特征值算法中，正交化经常用于构造搜索子空间、保持迭代向量之间的独立性，以及防止重复信息堆积。某些迭代法中，正交化有助于形成更可靠的子空间基，从而提升收敛表现。
6.4 信号表示与傅里叶分析
在信号处理与傅里叶分析中，正交系统是展开和重构信号的基础。正交化思想可以帮助构造彼此独立的基函数，使频率分量或模式分量更易分离。
通过正交表示，信号的能量分布、分量提取和滤波处理都更为直接。
6.5 统计学中的变量正交化
在统计建模中，变量正交化常用于减少解释变量之间的相关影响，使模型参数更易解释。它也可用于构造互不重叠的特征方向，从而改善回归分析、主成分处理前的准备步骤，或辅助检验变量贡献。
7 扩展与相关概念
7.1 正交规范基
正交规范基是由一组两两正交且长度为1的向量组成的基。它是正交化的典型目标形式，也是许多理论推导中最方便的基类型。采用正交规范基后，坐标表示、内积计算和投影公式都显著简化。
7.2 正交投影
正交投影是把一个对象映射到某个子空间上，同时使误差部分与该子空间正交的过程。它是正交化的核心工具之一，也是许多分解方法的基础。正交化过程可以视为对投影思想的连续应用。
7.3 规范化与标准化
规范化通常指把对象缩放到单位长度或其他标准尺度；标准化则更强调统一量纲或统一统计尺度。二者不完全等同，但都与正交化常有联系。正交化往往先消除相关性，再通过规范化得到更加整齐的表达。
7.4 Gram矩阵与内积矩阵
Gram矩阵由一组向量两两内积构成，反映了这组向量之间的几何关系。它可用于判断线性相关性、分析正定性以及辅助研究正交化结果。若一组向量已经正交规范，则其Gram矩阵就是单位矩阵，这体现了正交结构的简洁性。
8 历史与发展
8.1 早期思想
正交化的思想早于现代形式化线性代数。几何学中关于垂直、投影和分解的观念，为后来的抽象表达提供了基础。随着坐标方法和解析工具的发展，人们逐渐意识到正交结构在计算和理论中的普遍价值。
8.2 现代线性代数中的形式化
在线性代数成熟之后，正交化被纳入内积空间、基变换和矩阵分解的统一框架中。格拉姆-施密特过程、正交投影定理以及正交归一基等概念，使其成为标准理论的一部分。此时，正交化不再只是几何技巧，而是系统化的方法论。
8.3 数值线性代数中的推广
进入数值计算时代后，正交化的重点逐渐从“能否构造”转向“如何稳定高效地构造”。因此，基于QR分解、Householder变换和Givens旋转的实现方式得到广泛发展。与此同时，正交化也被推广到更复杂的迭代算法、子空间方法和高维数据处理任务中。