1 基本概念
1.1 定义与范围
非参数方法是统计学与数据分析中一类不预先设定总体分布具体形式、或对分布参数依赖较少的方法。它们通常基于秩、符号、频数、分位数、核函数、局部邻域或重抽样等信息进行推断与建模。
“非参数”并不意味着完全没有参数，而是指方法不强依赖某个固定的分布族及其少数参数。许多非参数技术可以处理未知分布、偏态数据、异常值较多的数据，以及难以用简单数学形式描述的关系。
1.2 与参数方法的区别
参数方法通常先假定数据来自某种特定分布，例如正态分布，再围绕均值、方差等有限参数进行推断。非参数方法则更强调从数据本身提取结构，不把模型限制在少数参数之内。
两者的差异主要体现在假设强度、灵活性和推断方式上。参数方法往往在假设成立时更高效，非参数方法则在假设不清楚或不易满足时更稳健。对于同一问题，二者并非互斥，实际分析中常会结合使用。
1.3 适用场景
非参数方法常用于以下情形：数据分布未知或明显偏离常见分布；样本量较小，难以可靠估计参数；变量为等级数据、顺序数据或分类型数据；数据中存在较多异常值或极端值；研究对象关系复杂，难以用简单函数形式表达。
在医学、心理学、生态学、金融分析和机器学习等领域，非参数方法都很常见。它们尤其适合探索性分析、稳健比较以及不满足经典假设的情境。
1.4 优势与局限
非参数方法的主要优点是灵活、稳健，能够适应多种数据类型和复杂结构。它们对分布假设依赖较少，因此在偏态、厚尾或含异常值的数据中常表现良好。
其局限也较明显。首先，在分布假设确实成立时，非参数方法有时不如参数方法有效率。其次，某些非参数模型的结果解释不如参数模型直观。再次，随着数据规模和维度上升，计算量可能显著增加，部分方法还会面临“维度灾难”。
2 理论基础
2.1 分布自由思想
非参数方法的重要理论基础之一是分布自由思想，即检验统计量或推断结论尽量不依赖总体的具体分布形式。这样一来，方法在较宽泛的条件下仍可成立，具有更强的适应性。
分布自由并不意味着完全无条件，而是把关键假设从“具体分布是什么”转移到“数据是否独立、是否同分布、是否连续”等更弱的条件上。许多经典秩检验都建立在这一思想之上。
2.2 秩与顺序统计量
秩是非参数方法中最常用的工具之一。将样本值按大小排序后，数值本身被转化为相对位置，这样可以减少对原始尺度和极端值的敏感性。
顺序统计量则是排序后的样本值本身。它们常用于分位数估计、极值分析和经验分布研究。通过秩与顺序统计量，可以构造许多不依赖强分布假设的检验与估计方法。
2.3 经验分布函数
经验分布函数是用样本直接近似总体分布的一种方式。它记录样本中小于等于某一数值的比例，可视为对未知分布的非参数估计。
经验分布函数具有简单、直观、可计算性强的特点，也是许多非参数推断的起点。基于它还可以进一步构造分位数、置信带和一致性检验。
2.4 一致性与渐近性质
非参数方法虽然不依赖固定参数模型，但同样关心估计或检验在样本量增大时是否可靠。若方法能随着样本量增长逐渐逼近真实对象，便具有一致性。
渐近性质用于分析大样本下的行为，如收敛速度、分布形式和方差变化等。很多非参数方法的理论结论都建立在渐近分析之上，以说明其有效性和适用边界。
3 常见非参数检验
3.1 单样本检验
3.1.1 符号检验
符号检验用于判断样本中位数是否与某个给定值一致，或判断配对差值的方向是否存在系统性偏离。它只使用差值的正负信息，不依赖数值大小，因此对异常值较稳健。
由于信息使用较少，符号检验通常效率不高，但实现简单，适合样本较小或数据尺度较粗的场景。
3.1.2 适合度检验
适合度检验用于判断样本是否来自某一指定分布。非参数适合度检验常基于经验分布与理论分布的差异，或基于类别频数的偏离程度。
这类方法常用于检验数据是否近似均匀、是否符合某种离散分布，或评估模型拟合效果。与参数检验相比，它们对分布假设的限制更少。
3.2 两样本检验
3.2.1 Mann-Whitney U 检验
Mann-Whitney U 检验用于比较两个独立样本是否来自相同分布，或是否存在位置差异。它通过比较样本秩的相对大小来进行推断。
该方法在连续数据、等级数据和非正态数据中很常用。若两组分布形状相近，它常被解释为比较中位数差异；但在一般情况下，更准确的理解是比较整体分布位置。
3.2.2 Kolmogorov-Smirnov 检验
Kolmogorov-Smirnov 检验通过比较两个累积分布函数，或样本分布与理论分布之间的最大差异来进行检验。它关注的是整体分布形状，而不只是位置或均值。
该检验对分布差异较敏感，适合识别整体偏移、尾部差异和形状变化。不过在离散数据或存在大量并列值时，使用时需要特别注意。
3.3 配对样本检验
3.3.1 Wilcoxon 符号秩检验
Wilcoxon 符号秩检验用于比较配对观测的差值是否围绕零对称。它在保留差值方向信息的同时，也利用了差值的绝对大小，因此通常比符号检验更有力。
该方法常用于前后对照研究、重复测量数据或成对匹配数据。它要求差值分布大致对称，但不要求正态分布。
3.4 多样本检验
3.4.1 Kruskal-Wallis 检验
Kruskal-Wallis 检验是多个独立样本的非参数比较方法，可视为 Mann-Whitney U 检验在多组情形下的扩展。它通过秩来检验各组是否来自同一分布。
该方法适用于组数较多、数据不满足方差分析假设的情况。若检验显著，通常还需要进一步做事后比较，定位具体差异来源。
3.4.2 Friedman 检验
Friedman 检验用于多个相关样本或重复测量设计中的组间比较。它先在每个区组内排序，再比较各处理的秩和差异。
这一方法常用于同一对象在多个条件下的表现比较，能够控制个体差异带来的影响。它是重复测量方差分析的一种非参数替代。
4 非参数估计
4.1 分布估计
4.1.1 核密度估计
核密度估计是一种平滑的分布估计方法，通过在每个样本点附近放置核函数并叠加，得到总体密度的近似曲线。它能比直方图提供更平滑的形态展示。
核密度估计的关键在于带宽选择。带宽过小会导致曲线过于波动，过大则会掩盖真实结构，因此实践中通常需要折中处理。
4.1.2 经验分布估计
经验分布估计直接利用样本累积比例逼近总体分布，无需假设具体分布形式。它是最基础、最稳健的非参数分布估计之一。
这种估计方式特别适合构造分位数、概率区间和分布比较。与平滑密度估计相比，它更原始，但也更少依赖调参。
4.2 回归与平滑
4.2.1 局部回归
局部回归通过在目标点附近选择一小段数据并进行拟合，来刻画变量之间的局部关系。它不要求全局函数形式固定，因此适合非线性数据。
该方法可以平滑曲线、捕捉局部变化，并在一定程度上处理复杂结构。其效果依赖于窗口大小或平滑参数的设置。
4.2.2 样条方法
样条方法用分段低阶多项式连接各个区间，并在连接点保持一定光滑性。它常用于曲线拟合、函数逼近和非线性回归。
样条既保留了灵活性，又避免了高阶多项式在全局拟合中的不稳定问题。常见形式包括线性样条、三次样条和惩罚样条。
4.2.3 最近邻方法
最近邻方法根据目标点附近若干个最相近观测来进行预测或平滑。它的核心思想是“相似样本应具有相似响应”。
这一方法直观、易于实现，常用于分类与回归。其缺点是对距离度量和特征尺度较敏感，在高维空间中效果可能下降。
4.3 生存分析中的非参数估计
4.3.1 Kaplan-Meier 估计
Kaplan-Meier 估计用于估计生存函数，尤其适合存在删失数据的情形。它通过记录每个事件时刻的生存概率变化，逐步构造生存曲线。
该方法广泛用于医学随访研究和可靠性分析。它能够处理不同随访时长下的样本信息，是生存分析中的基础工具。
4.3.2 Nelson-Aalen 估计
Nelson-Aalen 估计用于估计累积风险函数，反映事件随时间累积发生的程度。它与生存分析中的风险过程密切相关。
与 Kaplan-Meier 估计相比，Nelson-Aalen 更强调风险累积的视角。二者常结合使用，以从不同角度描述时间到事件数据。
5 重抽样与计算方法
5.1 自助法
5.1.1 置信区间构造
自助法通过对原始样本进行有放回重抽样，反复生成“伪样本”，从而近似统计量的抽样分布。由此可以构造置信区间，而无需依赖复杂的理论分布。
这种方法特别适合难以推导标准误和置信区间的统计量，例如中位数、偏差校正量或复杂模型指标。它的效果通常与样本代表性密切相关。
5.1.2 参数稳定性评估
自助法还常用于评估估计结果的稳定程度。通过观察不同重抽样下参数或指标的波动范围，可以判断模型对样本扰动的敏感性。
在变量筛选、模型比较和预测任务中，这种稳定性评估很有价值。若结果在重抽样中频繁变化，往往提示模型结构或数据质量仍需进一步检查。
5.2 置换检验
5.2.1 随机化思想
置换检验基于随机化思想，即在原假设成立时，样本标签或分组标签可以在一定条件下交换。通过大量随机置换，可得到检验统计量在零假设下的分布。
这一思路不依赖复杂分布假设，特别适合样本较小或分布不明确的场景。它本质上利用了数据标签交换后的对称性。
5.2.2 显著性评估
置换检验通过比较观测统计量与置换分布来评估显著性。如果观测值落在极端尾部，则说明原假设下出现该结果的可能性较低。
该方法的优点是直观、通用，能够用于均值差、相关系数、分类准确率等多种统计量。其局限主要在于置换次数和计算成本。
5.3 交叉验证
5.3.1 模型选择
交叉验证通过将数据划分为训练集与验证集，重复评估模型在未见数据上的表现，从而帮助选择合适的模型和超参数。它在非参数建模中尤为重要，因为许多方法依赖平滑参数、邻域大小或复杂度控制。
常见做法包括留一法、k 折交叉验证和分层交叉验证。其目标是平衡拟合能力与泛化能力，避免过拟合或欠拟合。
5.3.2 误差估计
交叉验证不仅用于选择模型，也可用于估计预测误差。通过汇总各折的验证结果，可以得到对样本外误差的近似。
这种误差估计比单次划分更稳定，但仍会受到数据分布、分割方式和样本量的影响。在时间序列或相关数据中，交叉验证需采用更谨慎的切分策略。
6 相关方法与扩展
6.1 半参数方法
半参数方法介于参数与非参数之间，通常对模型的一部分作参数化设定，同时对另一部分保持灵活。它兼顾了可解释性与适应性。
常见半参数模型包括部分线性模型和某些生存分析模型。此类方法在理论上和实践中都很重要，尤其适合既有明确结构又存在未知成分的问题。
6.2 鲁棒统计
鲁棒统计关注在异常值、模型偏离或数据污染存在时，方法仍能保持较好性能。它与非参数方法关系密切，因为两者都强调减少对强假设的依赖。
不过两者并不等同。鲁棒统计的重点是抗干扰能力，而非参数方法的重点是放宽分布形式限制。许多现代技术同时具有这两种性质。
6.3 贝叶斯非参数方法
贝叶斯非参数方法是在贝叶斯框架下引入无限维或可增长维度的模型，以便让模型复杂度随数据自适应变化。它们可用于密度估计、聚类和层次建模。
这类方法虽然名为“非参数”，但通常仍包含可调的先验结构。其优点是表达力强，能够自然处理不确定性；代价则是推断过程往往更复杂。
6.4 高维数据中的非参数技术
在高维数据中，非参数方法既有优势也有挑战。一方面，它们可以减少错误分布假设带来的风险；另一方面，维度升高会使邻域、距离和局部平滑方法变得不稳定。
因此，高维非参数分析常与降维、特征选择、稀疏表示或正则化技术结合使用。实践中通常需要兼顾计算效率与泛化能力。
7 应用领域
7.1 医学与公共卫生
在医学研究中，非参数方法常用于临床比较、疗效分析、生存分析和流行病学数据处理。由于医疗数据经常包含删失、偏态和异常值，这类方法具有较高实用性。
公共卫生研究也常借助非参数检验与估计，处理调查数据、分层数据和小样本数据。它们在探索性分析和假设筛查中尤为常见。
7.2 心理学与社会科学
心理学和社会科学中常见等级量表、问卷评分和非正态分布数据，因而非参数方法应用广泛。秩检验、相关分析和稳健平滑常用于比较群体差异与关系模式。
在这些领域，研究对象往往难以严格满足经典统计假设，非参数技术因此成为重要工具。它们也便于处理主观评分和类别化测量结果。
7.3 生态学与环境科学
生态与环境数据常具有波动大、噪声强、空间结构复杂等特点。非参数方法可用于物种丰度比较、环境因子关系分析、空间平滑和生存/寿命类问题。
这类数据中，分布不稳定和极端值较常见，因此非参数方法的稳健性尤其有价值。它们也适合处理长期监测数据和不规则采样数据。
7.4 机器学习与数据挖掘
机器学习中的许多方法本质上带有非参数特征，例如核方法、决策树、k 近邻和部分重抽样策略。它们通过数据驱动方式建立模型，不强制设定固定函数形式。
在数据挖掘中，非参数方法常用于分类、聚类、异常检测和密度估计。随着数据规模增大，它们在灵活性方面的优势往往更加明显。
8 方法评价
8.1 假设检验力
非参数方法的检验力取决于数据结构、样本规模和所用统计量。若真实分布接近参数方法的假设，参数方法往往更有力；若分布偏离明显，非参数方法反而更稳妥。
因此，检验力并非绝对高低，而是与情境相关。选择方法时应结合数据特性、研究目标和可接受的错误风险综合判断。
8.2 计算复杂度
许多非参数方法在小样本下十分便捷，但在大样本、高维数据或需要大量重抽样时，计算开销会明显增加。核密度估计、最近邻、置换检验和交叉验证都可能带来较高成本。
随着计算资源提升，这一问题有所缓解，但在实时分析或超大规模数据场景下，效率仍是重要考量。
8.3 可解释性
非参数方法的可解释性具有双重特点。某些秩检验和经验分布方法非常直观，容易说明；而某些局部平滑、核方法或贝叶斯非参数模型则可能较为抽象。
总体而言，它们往往比复杂黑箱模型更容易与数据现象对应，但不一定像简单参数模型那样便于用少数参数概括。
8.4 软件实现与实践注意事项
现代统计软件和编程语言通常都提供丰富的非参数工具，包括检验、平滑、重抽样和生存分析模块。实际应用时，除了选择合适方法，还需注意数据预处理、缺失值处理、并列值处理和参数调节。
在报告结果时，应同时说明方法名称、关键设定、样本规模和前提条件。对于重抽样类方法，还应交代重复次数与随机种子设置，以保证结果可复现。