1 概述与定义
R²（决定系数，R-squared）是回归分析中常见的拟合优度指标，用于衡量回归模型对因变量波动的解释程度。其核心思想是：把因变量的总变动分解为“可被模型解释的部分”与“无法解释的残差部分”，从而计算前者占总体变动的比例。
在通常的线性回归语境下，R²越大表示模型在当前数据上对因变量的变化解释得越充分；当R²接近1时，残差相对较小；接近0时，模型解释力有限。
1.1 基本含义：解释方差比例
将因变量记为 \(y\)，其围绕均值的变动可理解为“方差”。R²用一个无量纲比例表达：模型解释了因变量方差中的多大份额。直观上，如果在给定数据条件下模型能更贴合观测值，残差项更少，R²就更高。
1.2 数学表达式：总平方和与残差平方和
常见定义基于平方和分解。设样本量为 \(n\)，观测值为 \(y_i\)，模型预测值为 \(\hat{y}_i\)，因变量均值为 \(\bar{y}\)。则：
- 总平方和（Total Sum of Squares, SST）：衡量 \(y_i\) 相对均值的总体波动
\[ \mathrm{SST}=\sum_{i=1}^{n}(y_i-\bar{y})^2 \]
- 残差平方和（Residual Sum of Squares, SSE）：衡量模型未解释的部分
\[ \mathrm{SSE}=\sum_{i=1}^{n}(y_i-\hat{y}_i)^2 \]
在含截距的常规设定下，决定系数定义为 \[ R^2=1-\frac{\mathrm{SSE}}{\mathrm{SST}} \] 因此，SSE越小，R²越接近1；反之R²下降。
1.3 与相关系数的关系（在线性回归背景下）
在一元线性回归、且模型包含截距时，R²与皮尔逊相关系数的平方存在直接联系： \[ R^2=r^2 \] 其中 \(r\) 为样本相关系数（观测值与预测值或自变量与因变量的相关，取决于具体表述）。在多元线性回归中，R²可视为“相关系数平方”的推广形式，但其含义更一般地落在“解释的方差份额”上，而不再是单一相关量的简单平方。
2 计算与实现
R²的计算本质上依赖于残差平方和与总平方和的比值。在实现层面，不同软件会在数据预处理、模型是否含截距、缺失值处理等环节上影响中间量，从而影响最终报告值。
2.1 线性回归中的计算流程
典型流程如下：
- 准备数据：确定因变量 \(y\) 与自变量矩阵 \(X\)，并进行必要的数据清洗与缺失处理。
- 拟合模型：例如使用最小二乘法得到 \(\hat{y}\)。
- 计算 \(\bar{y}\)、SST 与 SSE。
- 代入公式 \(R^2=1-\mathrm{SSE}/\mathrm{SST}\)。
该流程强调的是“先拟合、再度量”，R²是拟合结果的汇总指标。
2.2 选择基准模型与方差分解口径
R²的定义通常隐含某种“基准”。在常规回归里，SST以 \(y\) 的均值为基准，因此默认的参照是“只用均值预测”的模型。若改变方差分解口径（例如不同截距设置、或对预测基准采取不同处理），R²的数值可随之发生变化，尤其在非标准设定下更明显。
2.3 与拟合值、残差的关系
R²由残差决定，而残差又与拟合值直接相关。可以从两条路径理解其影响：
- 拟合值更接近观测值时，误差（残差）变小，SSE下降，R²上升。
- 若模型对数据的结构刻画不足，残差会较大，导致 SSE相对SST占比更高，从而拉低R²。
因此，R²可以被看作“残差相对规模”的结果摘要。
2.4 数值示例（概念性说明）
设想：在某个数据集中，观测值围绕均值的总体波动（SST）为100。若某回归模型使残差平方和（SSE）降至30，则 \[ R^2=1-\frac{30}{100}=0.7 \] 这表示模型将总波动中约70%“解释掉”。若增加特征后SSE进一步降到20，则R²变为0.8，解释份额提高。
该示例用于说明数值如何从平方和构成而来，但不应直接替代对数据分布、噪声与模型假设的检验。
3 解释与常见用法
R²常用于描述“拟合得好不好”，但在解释时需要把它放回具体建模场景与比较目标中。
3.1 拟合优度的直观解读方式
常用的解释方式包括：
- 解释比例视角：R²表示模型对因变量波动的解释份额。
- 误差规模视角：由于R²与 SSE/SST相关，它间接反映残差相对总体波动的大小。
- 对贴合程度的经验总结：当观测与预测吻合更紧密时，残差更小，R²通常更高。
需要注意的是，R²是“样本内”的度量，反映的是在当前数据上拟合程度，而不等同于泛化能力。
3.2 模型比较中的注意点
R²经常被用来比较不同模型，但通常建议满足以下条件更具可比性：
- 比较对象应基于相同的数据集与相同的评价方式（如是否使用相同训练/测试划分）。
- 若比较的是不同特征集合的线性模型，并且都包含截距，R²的方向性更容易对齐。
- 对于非线性或不同模型家族，R²的可比性会下降，尤其当评价口径与预测方式不一致时。
3.3 过拟合风险与R²的“幻觉”
在训练数据上，模型自由度增加往往能降低残差，从而推高R²。于是出现“看起来更好”的错觉：
- R²可能因为参数数量或更灵活的拟合而上升，但模型可能只是记住了噪声。
- 若没有使用独立测试集或交叉验证，R²无法直接告诉你模型在新数据上的表现。
因此，在实践中常把“训练集R²”与“验证/测试性能”并行评估。
3.4 何时R²不够用
以下情况通常提示R²单独使用不理想：
- 关心的是预测误差而非解释比例，例如目标是降低均方误差或提升预测稳定性。
- 数据存在强噪声、离群点或结构性偏差，R²可能仍然给出较高值但误差分布并不好。
- 模型假设不匹配（如异方差或非线性关系被错误线性化），R²并不能替代模型诊断。
在这些场景中，交叉验证、误差指标（如MAE/RMSE）与诊断图往往更有信息量。
4 局限性与改进指标
R²的主要局限来自其定义方式与统计性质。它既可能因模型复杂度而“被动升高”，也可能在不同评估设置下失去可比性。
4.1 R²对自变量数量的敏感性
在普通最小二乘线性回归中，增加特征（尤其是在训练集上）通常不会让R²下降，因为模型有更大机会去减少残差。结果是：
- 仅凭训练集R²难以区分“更有效的解释”与“更复杂的拟合”。
- 当特征数量接近样本量、或特征之间高度相关时，R²的提升可能并不代表真正的预测改善。
4.2 调整R²（Adjusted R²）
调整R²在R²的基础上加入惩罚项，目的是缓解“多加特征就更好”的倾向。它以自由度为线索，尝试估计模型解释力在考虑复杂度后的净贡献。
4.2.1 惩罚自由度的思想
在含截距的线性回归常见表述中，Adjusted R²通常写作 \[ \mathrm{Adjusted}\ R^2=1-(1-R^2)\cdot\frac{n-1}{n-p-1} \] 其中 \(p\) 为自变量数量（不含截距），\(n\) 为样本量。关键在于：当模型增加自变量时，分母项变化导致惩罚效应增强，若新增特征没有带来足够的解释改进，Adjusted R²可能不升反降。
因此，Adjusted R²更适合用于“同一数据集、同一类型模型之间”的特征选择讨论。
4.3 交叉验证与泛化评估
为了避免只看训练集指标造成的偏差，常用交叉验证估计泛化效果：
- 将数据分成多折，在每折上训练并在留出部分计算指标。
- 用跨折平均（例如平均R²或平均误差）形成更稳健的评价。
这类做法让“模型是否能在新数据上解释波动”更可检验。
4.4 信息准则（AIC/BIC）与替代评价思路（概念性）
除R²及其调整版本外，信息准则提供了另一种权衡思路。其核心是：在拟合优度与模型复杂度之间做折中，用似然框架衡量。实践中信息准则常用于在模型族之间选择“既能解释又不过度复杂”的方案。
需要强调的是：AIC/BIC与R²并非等价指标，它们对误差结构和模型假设更敏感，因此适合与交叉验证等方法共同使用。
5 特殊情况与扩展
在一些边界设定下，R²的数值解释会变得不直观或需要更谨慎的口径说明。
5.1 非线性模型中的R²变体（概念性）
R²最初主要出现在（普通）最小二乘线性回归的语境中。对于非线性模型，常见做法是仍采用 \[ R^2=1-\frac{\mathrm{SSE}}{\mathrm{SST}} \] 用模型预测值 \(\hat{y}\) 计算残差与总平方和，从而得到“类似R²”的拟合度量。 这种变体在形式上延续了解释比例，但其严格统计性质可能依赖具体模型、误差分布与估计方式，因此在跨模型比较时仍需注意一致性。
5.2 无截距/有截距设定对R²的影响
R²的经典定义与性质通常建立在包含截距的前提下。若模型被强制不包含截距：
- SST与基准均值的处理方式会改变。
- 拟合的“解释目标”不同，导致R²可能出现偏离直观解释的情况。
因此，在报告R²时通常需要明确模型是否含截距。
5.3 R²可能出现的异常取值与原因（概念性）
在某些非标准设定或预测评估口径下，R²可能出现负值。直观上，负值意味着SSE大于SST，即模型对数据的解释效果不如用均值直接预测更好。造成这种现象的常见原因包括：
- 评估在训练外数据（例如测试集）上且模型泛化较差；
- 模型设定与数据结构不匹配；
- 采用了不符合常规定义的基准或截距设置。
负R²并不等同于“计算错误”，而是提示该评估场景下模型的解释能力相对基准较弱。
6 在软件与数据分析中的应用
统计软件通常会在回归汇总表中给出R²，并且往往同时报告调整R²。合理使用这些输出需要关注版本差异与参数设置。
6.1 常见统计软件输出位置
多数统计软件在回归结果摘要中提供：
- R²：决定系数
- Adjusted R²：调整决定系数（若可计算）
- 相关的F检验或系数显著性（取决于软件输出格式）
常见位置包括“模型拟合信息”“回归统计量”或“Model summary”。
6.2 指标报告规范：样本量与模型说明
为了让他人能够复核或复用结论，报告R²时通常建议包含：
- 样本量 \(n\)（以及是否因缺失值剔除造成的有效样本量变化）
- 自变量数量 \(p\)（以便理解调整R²）
- 是否含截距、是否对数据做过标准化/变换（变换不影响R²的计算方式本身，但影响模型解释）
- 评价口径：训练集R²还是验证/测试R²（尤其关键）
6.3 与可视化（残差图、拟合曲线）的配套使用
R²适合作为“总体摘要”，但不宜替代图形诊断。配套常见做法包括：
- 残差图：检查是否存在系统性模式（例如弯曲形态提示非线性残差结构）。
- 拟合曲线或散点叠加：观察预测是否随变量变化保持合理趋势。
- 分组或分区误差展示：发现局部拟合失败区域。
通过这些图形，能够进一步解释R²为何高或为何不高。
7 常见误区（快速条目式）
7.1 “R²越大一定越好”误区
R²在训练集上往往随模型复杂度上升。若不结合验证/测试表现，单看R²可能得出错误选择，尤其在特征维数较多或数据噪声较大时更明显。
7.2 忽略因果与相关混淆
R²衡量的是拟合程度，并不能直接说明自变量对因变量存在因果关系。即使R²很高，也可能是变量共同受第三因素影响，或出现了统计相关而非真实机制。
7.3 只看R²不看假设检验与误差结构
R²并不能替代对模型假设、误差分布与稳定性的检查。例如，残差若呈现异方差或相关结构，可能导致推断或预测偏差。对回归输出还应结合误差诊断与显著性/置信区间等信息综合判断。