1 类别不平衡的定义与表现形式
1.1 概念界定：类别频率失衡
类别不平衡（Class Imbalance）描述的是分类数据集中不同类别的样本数量分布不均衡：少数类别样本相对稀少，而多数类别占据主导。该现象会改变模型在训练阶段接收到的学习信号强弱，从而影响参数更新方向，使模型更倾向于拟合多数类的模式。
1.2 常见数据形态：单标签与多标签
在单标签分类中，每个样本只对应一个类别，此时类别频率失衡直接体现在各类别计数差异上。在多标签任务中，一个样本可同时包含多个标签，类别不平衡通常表现为“某些标签更常出现、更易被模型学到”，少数标签的召回更容易下降。由于样本之间标签相关性存在，少数标签的难度可能不仅来自稀缺，还来自与其他标签的协同结构复杂。
1.3 失衡程度的度量
1.3.1 IR（Imbalance Ratio）
IR（Imbalance Ratio）常用来刻画类别间的相对频率，形式通常为“多数类到少数类的比例”或“某类别与最小类别的比值”。IR越大，意味着类别越不均衡。由于IR依赖于选择的参照（例如最大类或某基准类），不同论文或项目中IR的计算口径可能不同，因此进行对比时需要核对定义。
1.3.2 分布熵与基尼系数视角
除比例指标外，也可用分布熵刻画整体类别分布的“不确定性”。当分布越接近均匀，熵越高；越集中在少数类别上，熵越低。基尼系数也能反映分布集中度，数值越高通常表示类别分配越不均衡。相较于只看少数类与多数类的比值，这类指标更能体现全局分布形态。
1.4 典型症状：模型偏向与“高准确率假象”
类别不平衡常见后果包括：模型在预测时更倾向于输出多数类，导致少数类召回率下降；损失函数中的总体梯度更容易由多数类主导，使得模型对少数类别形成的决策边界不够敏感。在评估上，若使用准确率（Accuracy）作为主要指标，多数类占比高时即使模型基本不识别少数类，也可能得到看似“不错”的分数，从而产生“高准确率假象”。
2 造成类别不平衡的原因
2.1 数据采集与标注偏差
现实数据生成过程中，采样与标注环节可能天然偏向易获得、易核验或更常见的样本。例如自动采集系统可能更频繁触发某些信号，标注人员也可能对稀有类别缺乏足够覆盖，导致训练集在类别计数上出现偏移。
2.2 自然过程导致的稀有事件
很多任务中的“少数类”本身就是低发生率事件，例如故障、异常、欺诈或特定罕见行为。这类稀有性并非人为引入，而是由真实世界概率决定；因此数据集中会自然形成长尾分布，类别不平衡是任务固有属性之一。
2.3 业务规则与触发机制的筛选效应
在部分应用中，业务规则会改变事件是否被记录或进入数据管道。例如只有达到某阈值才触发“可见”事件，或只对被认为更可能有价值的样本进行存档。触发机制的筛选会进一步放大不平衡程度，使少数类的观测更稀少。
2.4 时间演化与抽样窗口差异
数据随时间变化，某些类别在特定阶段更活跃，而在其他时间段更少出现。若训练集与测试集的抽样窗口不同步，类别比例可能发生漂移，进而造成不平衡加剧或结构变化。模型在这种情况下可能出现性能不稳定：训练阶段学到的“分布”不代表部署阶段的真实情况。
3 对建模与学习的影响机制
3.1 损失函数与梯度主导效应
在监督学习中，训练目标通常通过损失函数累计各样本的误差。类别不平衡意味着多数类样本对累计损失贡献更大，模型参数更新时多数类的梯度更显著。结果是模型可能快速学到多数类特征，而对少数类的错误缺乏足够纠正信号。
3.2 预测概率偏移与决策边界变化
当训练数据中先验分布与真实需求不一致，模型输出的概率可能产生系统性偏移。分类器的决策边界也会随之改变，常表现为更“保守”地选择多数类，从而减少少数类被预测为正类的概率。即使模型整体损失在训练集上下降，少数类的决策质量也可能未改善。
3.3 泛化能力在少数类上的下降
少数类样本少，模型可观察到的变异空间受限，导致其在特征空间的覆盖不足。即使采用正则化，少数类的判别特征也可能被学习得不稳定，泛化时容易受到噪声和偶然相关性的影响，从而在新数据上表现更差。
3.4 过拟合少数类的另一种风险
不平衡矫正并不必然改善泛化。若直接对少数类进行强行过采样或合成，模型可能反复接触“相似”的少数样本，进而对其局部模式记忆过度。此时少数类的训练指标可能上升，但测试集上的真实泛化仍可能受损，形成“既偏向又过拟合”的复杂现象。
4 数据层应对策略（重采样）
4.1 过采样方法
4.1.1 随机过采样（重复少数样本）
随机过采样通过复制少数类样本来提高其在训练集中的占比。优点是实现简单；缺点在于它不会引入新信息，可能让模型对少数类的样本边界学习不足以覆盖真实分布，且容易加剧过拟合。
1.1.2 SMOTE 与其变体（插值合成）
SMOTE（Synthetic Minority Over-sampling Technique）通过在少数类样本的特征空间邻域中进行插值，生成合成样本以扩展少数类的覆盖范围。常见变体会调整邻域选择或改进插值策略。注意事项包括：特征空间中“线性插值”是否合理、距离度量是否适配、以及对类别边界附近样本的合成是否会引入噪声。
1.1.3 生成式方法与注意事项
除基于邻域的合成外，也可使用生成式模型生成少数类样本。此类方法可能提供更丰富的多样性，但代价是更复杂的训练与验证流程。合成质量不足会导致“看似平衡、实则分布偏移”，因此通常需要严格的评估与分布一致性检查，避免将训练集的偏差放大。
4.2 欠采样方法
4.2.1 随机欠采样
随机欠采样通过丢弃部分多数类样本来平衡类别比例。其直观优点是训练集更小，训练更快；主要风险在于删除信息可能降低多数类表达的细节，使模型对真实多数类变异的建模能力变弱。
4.2.2 簇/原型驱动的欠采样
簇或原型驱动的方法会在多数类中保留代表性子集，例如依据聚类中心、边界样本或原型集选择。此类策略旨在减少信息损失：相比纯随机丢弃，它更强调对特征空间覆盖的保留，从而降低性能下滑的概率。
4.3 重采样的副作用与泄漏风险
4.3.1 训练/验证/测试划分与数据泄漏
重采样若处理不当，可能引入数据泄漏。例如在划分训练集与验证集后再对“全量数据”进行合成，会导致验证或测试的信息间接进入训练过程。正确做法通常是将重采样流程限定在训练集内部，并在验证/测试阶段保持原始分布或采用与实验目的匹配的处理方式。
4.3.2 类内多样性与合成样本偏差
合成样本可能无法真实反映少数类的分布结构，尤其当原始特征空间存在非线性流形或类别边界复杂时，插值或生成会引入偏差。即便类别比例被调平，如果合成样本在统计特性上与真实少数类差异较大，也会影响模型学习到的“假分布”，带来评估与部署不一致。
5 算法层应对策略（成本与目标调整）
5.1 代价敏感学习
5.1.1 类权重（class weighting）
类权重方法为不同类别在损失函数中分配不同权重，使少数类错误被惩罚得更重。常见做法是让权重与类别频率成反比。需要注意的是权重过大可能放大噪声，导致少数类被过度关注，进而引发多数类误报上升。
5.1.2 加权交叉熵与相关损失
加权交叉熵通过将类别权重引入交叉熵计算，使训练目标更贴近不平衡场景下的“代价”结构。除此之外，还可根据任务性质选择其他损失的加权形式，例如基于边界的变体或重加权的度量学习损失，但总体原则仍是让优化目标与关注对象（少数类）对齐。
5.2 采样与损失的联合调整
仅靠重采样或仅靠加权有时不足。联合调整通常通过同时控制训练集分布与损失敏感度，使两者相互补偿：重采样缓解样本可见性问题，损失加权缓解梯度主导问题。联合策略需要谨慎调参，因为二者叠加可能让少数类信号过强，造成整体性能波动。
5.3 具有不平衡意识的模型结构
5.3.1 两阶段策略：重建表征再分类
两阶段方法先学习对少数类更合适的表征，再进行分类。第一阶段可能包含重建、对比学习或特征对齐，目标是提升少数类的可分性；第二阶段在更稳定的特征上做分类。该策略的关键在于表征学习阶段是否真正捕获少数类的关键差异，而非只是在训练集上“凑热闹”。
5.3.2 集成学习与不平衡友好基学习器
集成学习可通过训练多个子模型并融合预测来提升稳健性。针对不平衡，可让不同基学习器在不同重采样或不同权重设置下训练，从而让模型对少数类形成多视角判断。集成通常能缓解单一模型偏向某一分布设置的问题，但计算成本更高。
5.4 专门算法：面向长尾的典型思路
当类别呈现长尾分布时，常见思路包括：使用对数空间的重加权、对“难样本”进行更关注、或采用专门的类别重平衡正则项。目标是让模型在从大量类别的“常态模式”中学习到的同时，不忽视长尾类别的判别信号。具体算法差异体现在重加权方式、难例挖掘策略以及对分类头的约束形式上。
6 阈值、校准与决策制定
6.1 阈值移动与代价驱动决策
很多分类器输出概率后通常使用固定阈值进行决策。在不平衡场景中，阈值可根据期望的误报与漏报代价进行移动。例如当漏检少数类的代价更高，可以降低触发阈值以提升召回率。阈值移动本质上是在概率输出与决策成本之间建立映射，而非直接改训练过程。
6.2 概率校准（如温度缩放等）
校准旨在让模型输出概率更接近“真实含义”。类别不平衡可能导致概率估计失真，即使模型排序能力尚可，概率数值仍可能偏离真实频率。温度缩放等后处理方法可在验证集上调整置信度，使阈值选择更可靠，从而提高基于概率的决策一致性。
6.3 不同目标下的选择原则
6.3.1 最大化Fβ
Fβ综合了精确率与召回率，并通过β控制召回或精确的相对重要性。β>1时更偏向召回，适用于漏掉少数类代价较高的场景。选择Fβ最大化阈值有助于在训练目标与实际业务需求之间建立更直接的联系。
6.3.2 最小化预期成本
在明确代价结构（例如误报成本与漏报成本不同）的情况下，可将决策转化为最小化预期风险。该方法强调成本驱动而非单纯指标最大化，能更贴合“少数类重要但稀少”的现实需求。代价参数需要来自业务或风险评估，而非凭空假设。
7 评估指标与实验设计
7.1 为什么准确率不足以说明问题
准确率对多数类占比敏感。若多数类占绝大多数，即使模型对少数类几乎不做正确预测，整体仍可获得较高准确率。此时准确率更像是衡量“多数类识别是否足够”，而不是衡量“少数类是否被有效捕获”，容易掩盖真实缺陷。
7.2 推荐指标：宏平均与加权平均
7.2.1 Precision / Recall
精确率（Precision）衡量预测为正的样本中有多少是真正类别；召回率（Recall）衡量真实正样本有多少被找回。对不平衡任务，通常更关注召回与精确率的平衡，因为少数类往往对应“找出但不希望误报过多”的需求。
7.2.2 F1、Fβ 与宏平均F
F1是精确率与召回率的调和平均；Fβ进一步调整二者权重。宏平均F对每个类别分别计算再取平均，使少数类不会在类别平均中被多数类“稀释”。当希望各类别表现尽量均衡时，宏平均更具解释力。
7.2.3 ROC-AUC 与其局限
ROC-AUC基于假阳性率与真阳性率的曲线，能够衡量排序能力。然而在类别极度不平衡时，假阳性率可能不直观地反映“实际误报数量”的代价，且ROC曲线对阈值选择的敏感性可能不足。因此ROC-AUC有时会给出与实际业务体验不一致的乐观结论。
7.3 PR 曲线与平均精度（AP）
PR曲线以精确率-召回率为坐标，直接反映“在找回少数类的同时保持预测可信度”的情况。平均精度（AP）对PR曲线的整体表现进行汇总，通常比ROC-AUC更适用于关注少数类的评估。尤其当正类比例很低时，PR指标往往更能暴露模型在少数类上的短板。
7.4 交叉验证与分层抽样
7.4.1 分层K折
分层K折在划分训练与验证时保持各类别在不同折中比例尽量一致。对不平衡数据，这能减少某一折恰好缺少或过少样本导致的评估波动，提高实验稳定性。
7.4.2 保持少数类覆盖
除分层外，还需确保少数类在每个折至少有可用样本数，避免模型评估因样本不足而失真。在极端稀有情况下，可能需要调整折数或采用更稳健的验证策略，例如基于事件分组的划分，防止同一来源样本跨折造成泄漏。
7.5 统计显著性与置信区间
对比不同策略时，建议报告置信区间或进行显著性检验，以确认性能差异不是由抽样偶然性造成。类别不平衡会让指标方差变大，尤其当少数类样本极少时，单次划分的结果更容易波动，因此统计层面的不确定性描述更重要。
8 实务流程与常见“踩坑”
8.1 从探索性分析到基线模型
常见流程包括：先进行类别分布统计与失衡度量，随后选择基线模型（不做任何不平衡处理）建立参考性能。基线可帮助判断不平衡是否导致明显的多数类偏置，并为后续方法的改进提供比较基准。
8.2 选择策略的启发式建议
若目标是改善少数类可见性，优先考虑重采样；若希望保持数据不动、直接调整优化方向，可使用类权重或代价敏感损失；若模型输出概率需要被阈值可靠使用，则加入校准与阈值搜索。实际项目往往需要在效率、数据质量和可解释性之间折中，采用小范围实验逐步确定策略组合。
8.3 常见踩坑：数据泄漏、指标误用、过度合成
数据泄漏常见于重采样或合成在划分前进行、特征工程中使用了与标签相关的未来信息。指标误用则表现为只看准确率或只看宏观AUC而忽视PR类指标。过度合成会引入大量“非真实”样本，使模型在训练集上看似更均衡，实际泛化下降。
8.4 可复现性与实验记录要点
建议记录数据划分方式、重采样或加权的具体参数、阈值选择的验证策略、以及随机种子与训练配置。对不平衡任务而言，微小的实现差异（例如采样在何时发生、类权重计算口径）都会导致结果差别，因此可复现的实验记录尤为关键。
9 轻松的命名梗与直觉比喻（文化补充）
9.1 “多数类统治论”与“少数类失声”比喻
在一些直觉比喻中，多数类像“统治者”，因为它在训练损失中贡献更多信号；少数类则像“少数派选手”，即使努力也常常因为出场太少而难以被模型认真对待。这个比喻用于帮助理解梯度主导与评估被掩盖的问题。
9.2 指标选择的“糊弄式成功”（高准确率假象）
当模型主要学会预测多数类时，准确率可能看起来非常漂亮，于是形成“糊弄式成功”的观感。通过引入宏平均、PR相关指标或代价驱动评估，可以把这种表面光鲜转化为更真实的诊断，从而避免用“好看分数”掩盖少数类的失败。