1 基本概念

1.1 定义

正定函数通常指在某个定义域上,任取有限个点后,由函数值组成的矩阵满足正半定条件的函数。更具体地说,若对任意点集 \(x_1,\dots,x_n\),矩阵 \([f(x_i-x_j)]\) 或相应形式总是正半定,则称该函数具有正定性。不同数学分支会采用略有差异的表述,但核心都在于函数所诱导的矩阵保持非负的二次型结构。

1.2 相关术语

1.2.1 正半定与严格正定

正半定强调由函数生成的矩阵在二次型意义下不为负,即对任意向量 \(c\),有 \(c^*Ac\ge 0\)。严格正定则要求除零向量外,该二次型始终为正。前者允许退化情形,后者则具有更强的非退化性质,因此在理论和应用中区分十分重要。

1.2.2 核函数与矩阵正定性

核函数是指在两个变量上定义的一类函数,常写作 \(K(x,y)\)。当对任意有限点集构成的 Gram 矩阵均为正半定时,该核称为正定核。正定函数在很多情形下可看作平移不变核的特例,因此二者联系紧密。

1.3 典型例子

1.3.1 指数函数型例子

在适当参数条件下,指数型函数常具有正定性,例如形如 \(e^{-ax}\) 的函数在许多常见定义域上都可作为正定函数的代表。此类函数通常衰减平稳,便于在频域中解释,也常出现在随机过程信号建模中。

1.3.2 高斯核

高斯核 \(e^{-\alpha \|x\|^2}\) 是最典型的正定函数之一。它不仅光滑,而且在任意维度中都保持良好的正定性质,因此被广泛用于核方法插值与概率建模。由于其形状平滑、局部性适中,高斯核在实际应用中非常常见。

1.3.3 常数函数

常数函数在很多情况下也是正定函数的简单例子。若函数恒等于非负常数,则由其生成的矩阵往往退化但仍满足正半定要求。它虽过于简单,却常作为构造更复杂正定函数的基础材料。

2 等价表述

2.1 矩阵判别法

2.1.1 Gram 矩阵表述

若函数在有限点集上生成的矩阵可以写成某组向量内积所构成的 Gram 矩阵,则该矩阵天然正半定。由此可将正定函数的判定转化为向量表示问题。这个视角在几何和泛函分析中尤其直观。

2.1.2 二次型表述

正定性也可通过二次型直接刻画:对任意系数集合,函数值矩阵对应的二次型非负,即可确认其正定。该表述是矩阵判定法的核心形式,通常也是证明闭包性质和构造性质的基础。

2.2 傅里叶分析中的刻画

2.2.1 Bochner 定理

在欧氏空间的平移不变情形下,连续正定函数与某个非负测度的傅里叶变换之间存在对应关系。Bochner 定理给出了这一联系,使得频域特征成为研究正定函数的重要工具。

2.2.2 群上的正定函数

在更一般的群结构上,正定函数可定义为对群元素差或乘积所生成的矩阵满足正半定。此时函数性质与群表示论密切相关,尤其在交换群和局部紧群上有丰富理论。

2.3 测度与积分表示

2.3.1 概率测度表示

某些正定函数可以表示为对指数核或特征函数的积分平均,其中积分对象为概率测度。这样的表示揭示了正定性与随机性之间的联系,也为构造函数提供了便利。

2.3.2 谱表示

谱表示将正定函数写成不同频率成分的叠加,从而将正定性转化为谱分布的非负性问题。该观点在调和分析、随机过程和信号处理里都具有重要意义。

3 性质

3.1 基本性质

3.1.1 非负性与对称性

正定函数通常具有某种对称特征,例如平移不变场景下常满足偶对称或共轭对称。另一方面,在原点处的函数值往往非负,并可由矩阵正半定性推出一些基本不等式。

3.1.2 闭包性质

3.1.2.1 线性组合

若若干正定函数取非负系数线性组合,通常仍保持正定性。这使得可以通过叠加方式构造更灵活的函数族,也便于将不同尺度或不同形状的核进行融合。

3.1.2.2 逐点极限

在适当收敛条件下,正定函数列的逐点极限仍可能是正定函数。该性质在逼近理论中很有用,尤其适合由简单函数逐步逼近复杂结构。

3.1.2.3 复共轭与平移

对正定函数取复共轭通常不改变其正定性;在平移不变背景下,函数的平移也常保持相同的结构特征。这些对称操作反映了正定性质对基本变换的稳定性

3.2 运算性质

3.2.1 乘积与卷积

两个正定函数的逐点乘积在许多情形下仍为正定函数。卷积则常与频域乘法对应,因此在满足适当条件时也能保持正定性。两者都为构造复杂模型提供了常用手段。

3.2.2 指数变换

某些满足条件的函数经过指数变换后可生成新的正定函数族。例如对负定型函数取指数,往往会得到正定核。这类变换在高斯型核和热核中尤为典型。

3.2.3 复合与缩放

正定函数在自变量缩放下经常保持正定,只是尺度参数发生改变。复合操作则更依赖于外层函数与内层函数的性质,合理选择时可导出新的核函数类别。

3.3 特殊结构

3.3.1 循环矩阵情形

当函数定义在离散循环结构上时,其诱导矩阵可能呈循环矩阵形式。此时正定性可通过离散傅里叶变换来分析,频域特征决定矩阵是否为正半定。

3.3.2 Toeplitz 矩阵关联

在一维平稳情形下,函数生成的矩阵常具有 Toeplitz 结构。Toeplitz 矩阵的正定性与函数的频谱表示直接相关,因此在时间序列分析中非常重要。

4 构造方法

4.1 由内积构造

4.1.1 Hilbert 空间中的内积核

若函数可表示为某个 Hilbert 空间中向量的内积,即 \(K(x,y)=\langle \phi(x),\phi(y)\rangle\),则天然得到正定核。将其限制为平移不变或径向形式后,即可得到正定函数的常见构造。

4.1.2 特征映射构造

通过特征映射把原始数据嵌入更高维空间,再用内积定义函数,是构造正定函数的经典方式。这一方法在机器学习中尤为重要,因为它将复杂非线性关系转化为线性内积问题。

4.2 由函数变换构造

4.2.1 平移不变构造

若从一个基函数出发,结合平移操作并取适当叠加,常可得到平移不变的正定函数。此类构造与卷积核滤波器设计联系密切。

4.2.2 旋转对称构造

在欧氏空间中,若函数仅依赖于距离或范数,则常呈旋转对称。通过选择合适的径向函数,可以构造出在多维空间中有效的正定核,尤其适合几何数据分析。

4.3 由极限与逼近构造

4.3.1 级数展开

许多正定函数可表示为幂级数或特殊函数级数。只要各项系数满足适当非负条件,并配合已知正定基函数,就能推出整体正定性。

4.3.2 核近似方法

在实际计算中,常用有限秩近似或样本逼近来替代精确核。只要近似过程保持正半定结构,便可得到可计算且稳定的近似正定函数。

5 重要定理

5.1 Bochner 定理

5.1.1 定理陈述

Bochner 定理指出,欧氏空间上的连续平移不变正定函数,与某个有限非负测度的傅里叶变换一一对应。该定理为判断和构造此类函数提供了完整框架。

5.1.2 适用条件

该定理通常要求函数连续,并且定义在可进行傅里叶分析的交换群或欧氏空间上。若条件不满足,则需要借助更一般的表示理论或局部版本。

5.1.3 典型推论

由 Bochner 定理可知,正定函数的频谱必须是非负的;同时,许多经典核函数都可通过选择合适测度直接获得。这使得频域设计成为构造正定函数的重要方法。

5.2 Schoenberg 定理

5.2.1 条件负定与正定性的联系

Schoenberg 定理揭示了条件负定函数与正定函数之间的指数关系。简言之,若某函数具有条件负定性,则其指数形式在合适参数下可成为正定函数。

5.2.2 距离函数上的应用

该定理在距离几何和度量空间分析中应用广泛。通过研究距离函数是否条件负定,可以判断由距离生成的指数核是否正定。

5.3 Mercer 定理

5.3.1 连续核的谱分解

Mercer 定理说明,在适当紧致条件下,连续正定核可展开为特征值与特征函数的级数和。该分解把核的结构与谱性质直接联系起来。

5.3.2 与正定函数的关系

当核具有平移不变或径向对称形式时,Mercer 分解为正定函数提供了谱层面的理解。它不仅有助于理论分析,也便于数值近似。

6 应用

6.1 傅里叶分析

6.1.1 特征函数研究

在傅里叶分析中,正定函数常作为特征函数或频谱描述的工具。它们可以反映信号的平稳性与频率分布特征,帮助研究变换后的结构。

6.1.2 谱密度分析

正定函数的频域表示通常对应非负谱密度,因此适合分析能量分布和频率成分。该性质使其在滤波、谱估计与信号恢复中十分有用。

6.2 概率论

6.2.1 协方差函数

随机过程的协方差函数必须满足正定性,因为任意有限时刻的协方差矩阵都应为正半定。由此,正定函数成为描述随机波动结构的基础对象。

6.2.2 随机过程建模

通过选择合适的正定函数作为协方差核,可以构造具有特定平滑性、周期性或相关长度的随机过程。这在时间序列、空间统计和模拟中很常见。

6.3 最优化

6.3.1 半正定规划

正定函数对应的矩阵约束常可转化为半正定规划问题。此类优化框架可处理许多带有矩阵正性约束的模型,因此在理论与算法中都占有重要位置。

6.3.2 约束函数设计

在构建约束模型时,正定函数常用于设计平滑且可控的惩罚项或相似度函数。合理选择此类函数,有助于提升优化问题的稳定性与可解性。

6.4 机器学习

6.4.1 核方法

核方法依赖正定核把数据映射到高维特征空间,从而实现非线性分类与回归。正定函数在其中承担核心角色,决定了模型的几何结构与泛化性能。

6.4.2 支持向量机中的核函数

支持向量机常使用满足正定条件的核函数来计算样本间相似度。高斯核、多项式核等都是常见选择,它们使分类边界能够适应复杂数据分布。

6.4.3 高斯过程

高斯过程以协方差函数为基础,而协方差函数必须正定。正定函数因此直接决定了高斯过程的平滑性、置信区间和预测行为。

7 相关概念

7.1 条件正定函数

7.1.1 定义与区别

条件正定函数并不要求对所有系数都正半定,而是附加某种系数和为零的约束后才满足正性。它比正定函数更宽松,常用于距离函数和能量模型。

7.1.2 典型应用

条件正定函数常出现在薄板样条、径向基插值和几何建模中。它们可用于构造在限制条件下仍具有良好插值性质的函数系统。

7.2 正定矩阵

7.2.1 矩阵与函数的对应关系

正定矩阵是正定函数在有限样本下的离散化体现。函数在点集上生成矩阵后,若该矩阵正半定,则函数的正定性得到验证,因此二者关系极为紧密。

7.2.2 判定方法

正定矩阵可通过主子式、特征值或二次型进行判定。类似地,正定函数的验证也常借助这些矩阵判据在有限点集上的检验。

7.3 正定核

7.3.1 核函数的一般框架

正定核是更一般的二元函数概念,覆盖非平移不变与非对称设置。它把正定性从单变量函数推广到函数对,为现代核理论提供统一语言。

7.3.2 再生核 Hilbert 空间

再生核 Hilbert 空间以正定核为核心结构,函数值可由内积再现。该理论在逼近论、学习理论和数值分析中具有基础地位。

8 历史与发展

8.1 早期研究

正定函数的思想最早与傅里叶分析、矩阵理论和调和分析中的非负性问题相联系。随着特征函数、协方差和内积概念的发展,这一对象逐渐形成系统理论。

8.2 现代分析中的发展

在现代分析中,正定函数与泛函分析、表示论和谱理论深度融合。相关定理不断完善,使其从单纯的矩阵正性问题发展为连接多种数学分支的核心概念。

8.3 跨学科应用拓展

随着计算方法的发展,正定函数已广泛进入统计学、机器学习、物理建模与工程设计等领域。它不仅是理论工具,也成为构造算法、描述数据结构和控制模型行为的重要基础。