1 基本概念
对比学习是一种通过比较样本之间的相似性来学习表示的机器学习方法。其基本思路是让语义上接近的样本在表示空间中更靠近，而语义不同的样本彼此远离，从而使模型学到更有判别力的特征。与直接预测类别标签的方式不同，对比学习更强调样本关系本身，因而常用于数据标注不足或希望提升表征质量的场景。
1.1 定义与核心思想
对比学习的目标通常建立在样本对或样本集合之上。模型先将输入映射到某种向量空间，再依据预先构造的正样本与负样本关系优化距离或相似度。其核心并不只是“区分”，而是通过结构化比较，使表示既保留语义一致性，也具备较强的可分性。
1.1.1 相似样本与不相似样本
相似样本一般指在语义、类别或上下文上具有一致性的对象，例如同一图像的不同增强视图、同一语义句子的改写版本，或同一类别中的样本。与之相对，不相似样本则在语义上差异较大，通常作为负样本参与训练。样本是否“相似”并不总是由显式标签决定，也可以由数据增强、先验规则或跨模态对应关系来定义。
1.1.2 表示学习与判别边界
对比学习本质上属于表示学习范畴，关注如何把原始数据转换为更适合下游任务的嵌入表示。通过拉近正样本并推远负样本，模型会逐渐形成更清晰的判别边界，使同类样本在特征空间内聚集，不同类样本更易分离。这种方式常能提升泛化能力，并降低对人工特征设计的依赖。
1.2 研究背景
对比学习的兴起，与深度学习中对高质量表示的需求密切相关。随着数据规模增大和任务复杂度提高，单纯依赖监督标签往往成本较高，而对比学习提供了一种更灵活的表示构建路径。
1.2.1 传统监督学习的局限
传统监督学习主要依赖大量标注数据，适合标签清晰、类别稳定的任务，但在许多真实场景中，人工标注成本高、更新慢，且标签粒度有限。对于细粒度差异、长尾分布或跨域迁移问题，单纯依靠分类监督往往难以充分捕获数据内部结构。对比学习因此成为补充甚至替代部分监督信号的重要方法。
1.2.2 自监督学习的发展需求
自监督学习强调从数据本身构造训练信号，减少对人工标注的依赖。对比学习在这一方向上尤其突出，因为它可以通过增强视图、上下文关系或跨模态对应关系自动生成训练目标。随着预训练—微调范式的普及，对比学习也逐渐成为自监督表示学习的重要组成部分。
1.3 基本工作流程
对比学习通常包含样本构造、编码表示、相似度计算和参数优化等步骤。不同任务中具体实现不同，但整体流程大致相似，核心在于如何定义可学习的比较关系。
1.3.1 数据增强与样本构造
训练开始前，原始样本会经过特定变换生成多个视图。对于图像，可通过裁剪、翻转、颜色扰动等方式获得不同版本；对于文本，则可能采用重写、遮蔽或同义替换等手段。由同一原始样本生成的多个视图通常被视作正样本，而来自其他实例的样本则可作为负样本。
1.3.2 编码器与投影头
编码器负责提取输入的基础特征，常见结构包括卷积网络、Transformer 或图神经网络等。投影头则将编码后的表示映射到适合计算对比目标的空间中，通常是较低维或经过非线性变换的向量空间。许多方法发现，投影头有助于分离“用于对比训练的表示”和“用于下游任务的表示”。
1.3.3 损失优化与参数更新
对比学习的训练目标通常由某种对比损失定义，优化时会让正样本对更接近、负样本对更远离。训练过程中，模型参数通过梯度下降或其变体持续更新。由于样本关系复杂，训练稳定性、批量构成以及超参数设定都会显著影响最终效果。
2 理论基础
对比学习的理论基础涉及表示学习、距离度量和优化目标等多个方面。其有效性通常可以从嵌入空间的组织方式来理解，即模型是否能把语义上相近的对象放在一起，并合理分隔不同语义簇。
2.1 表示学习理论
表示学习关注如何自动提取有用特征。对比学习通过结构化比较，把原本分散的数据样本组织为更有层次的嵌入分布，使特征空间同时兼顾压缩性和区分性。
2.1.1 特征空间与嵌入分布
在对比学习中，样本被映射到向量空间后，其分布形态会直接影响模型性能。理想情况下，语义相近的样本应形成紧密簇，不同簇之间保留适当间隔。若嵌入过于集中，模型可能失去区分能力；若过于分散，则表示往往不稳定，难以迁移。
2.1.2 语义一致性与可分性
语义一致性指的是同一对象在不同视图、不同模态或不同上下文中的表示应尽量接近。可分性则要求不同语义的样本在空间中能够被有效区分。对比学习的价值就在于同时约束这两个方向，使模型既不过分依赖表面变化，也不会忽略语义边界。
2.2 相似度度量
相似度度量决定了模型如何判断两个表示是否接近，是对比学习中的基础环节。不同任务可选用不同度量形式，但都需要兼顾稳定性、可解释性和计算效率。
2.2.1 余弦相似度
余弦相似度通过比较两个向量方向的一致程度来衡量相近性，常用于归一化后的嵌入空间。它对向量长度不太敏感，因此在高维表示学习中应用广泛。许多对比学习方法都以余弦相似度作为核心比较函数。
2.2.2 点积与欧氏距离
点积反映两个向量在方向与幅度上的综合关系，计算简单，便于大规模训练。欧氏距离则直接衡量空间中的几何间隔，更适合强调绝对位置差异的场景。实际系统中，这些度量常与归一化、温度系数或特定损失组合使用，以获得更稳定的训练效果。
2.3 优化目标
对比学习的优化目标通常通过“拉近—推远”的方式实现。其设计要点在于如何定义正负关系、如何平衡样本贡献，以及如何避免训练过程中过度偏向某一类样本。
2.3.1 对比损失
对比损失是对比学习中最典型的目标函数，通常要求正样本对的距离小于某个阈值，或在所有候选样本中获得更高相似度。常见形式包括基于排序、分类或概率归一化的损失。不同损失在收敛速度、稳定性和表达能力上各有差异。
2.3.2 温度系数的作用
温度系数用于调节相似度分布的“尖锐程度”。较低的温度会放大样本间差异，使模型更关注难分样本；较高的温度则会让分布更平缓，优化过程相对柔和。温度设置不当，可能导致梯度过大、过小或训练不稳定。
2.3.3 正负样本权重平衡
在实际训练中，正样本数量往往远少于负样本。若权重分配不合理，模型可能过度受负样本主导，导致表示过于分散，或者忽略细粒度语义关系。因此，如何平衡正负样本的贡献，是损失设计和采样策略中的关键问题。
3 方法类型
对比学习根据监督信息和样本构造方式，可分为多种范式。不同类型的方法在数据需求、训练信号和适用任务上各有侧重。
3.1 自监督对比学习
自监督对比学习不依赖人工标签，而是利用数据内部的结构自动生成对比关系。这类方法在大规模无标注数据上尤为常见。
3.1.1 实例判别方法
实例判别方法把每个样本视作一个独立类别，同一实例的不同视图为正样本，不同实例则作为负样本。此类方法常用于学习通用表示，能够在缺少标签时构建较强的区分特征。
3.1.2 基于增强视图的方法
这类方法依赖数据增强产生多个视图，将同一原始样本的不同变换结果视为语义一致。模型需要忽略增强带来的表面变化，专注于更稳定的语义结构，因此常能学习到较鲁棒的表征。
3.2 监督式对比学习
监督式对比学习利用类别标签或其他人工标注信息构造更精确的正负关系，通常比纯自监督方法更容易形成清晰的类簇结构。
3.2.1 类内聚合与类间分离
在监督设定下，同类样本之间可被统一拉近，不同类样本则被显式推开。相比只使用单一正负对的策略，这种方式往往能更充分地利用批内样本关系，提升类别可分性。
3.2.2 标签信息的利用
标签不仅可用于定义正负样本，还可用于构造多正样本、类别原型或层次化对比目标。通过更细致地利用标签，模型能够学习到更符合任务需求的表示，而不只是简单区分实例。
3.3 无监督对比学习
无监督对比学习通常不使用明确标签，也不完全依赖数据增强视图，而是通过聚类、邻近关系或伪标注方式构建训练信号。
3.3.1 伪正样本构造
伪正样本是根据模型预测、聚类结果或先验规则推断出的“可能相似”样本。虽然这种方式引入了噪声风险，但在缺少标注时，它能为训练提供额外约束，并帮助模型逐步挖掘潜在结构。
3.3.2 负样本挖掘
负样本挖掘关注从大量候选中选择更有信息量的负例，例如距离较近但语义不同的样本。此类样本更能推动决策边界学习，但若选择过于激进，也可能把真实相似样本误当作负例，从而损害表示质量。
3.4 多模态对比学习
多模态对比学习面向图像、文本、语音、视频等不同来源的数据，通过对齐跨模态语义关系来学习统一表示空间。它常被用于多媒体理解和跨模态检索。
3.4.1 图文对齐
图文对齐通过将图像与对应文本拉近，使模型学会把视觉内容和语言描述映射到相近空间。该方法广泛用于图像检索、文本检索和开放词汇识别等任务。
3.4.2 语音与文本对齐
语音与文本对齐旨在让语音片段和其转写文本共享一致的语义表示。它有助于语音检索、口语理解和跨模态搜索，也能缓解单一模态训练信息不足的问题。
3.4.3 跨模态表示融合
跨模态表示融合不只是对齐两个模态，还强调整合各自优势，形成更全面的语义表达。常见做法包括共享编码空间、交互注意机制以及联合池化策略，以提升复杂任务中的鲁棒性。
4 关键技术
对比学习的实际效果很大程度上取决于若干关键技术，包括样本增强、负样本机制、网络结构与训练细节等。它们共同决定了模型学习到的表示是否稳定、有效和可迁移。
4.1 数据增强策略
数据增强是构造正样本的重要来源，尤其在自监督对比学习中，增强方式直接影响模型学到的语义不变性。
4.1.1 随机裁剪与翻转
随机裁剪和翻转常用于图像任务，通过改变视角和局部区域来模拟数据的不同观察方式。若设计合理，这些操作能帮助模型忽略无关位置变化，保留主体语义。
4.1.2 颜色扰动与遮挡
颜色扰动、模糊或随机遮挡等方式可迫使模型减少对局部纹理的依赖，更关注整体结构。此类增强在视觉表征学习中尤其常见，有助于提升泛化能力。
4.1.3 文本增强与重写
文本任务中的增强通常更谨慎，因为简单替换容易破坏语义。常见做法包括同义改写、片段重组、随机遮蔽和回译等，目标是在尽量保持语义一致的前提下产生多样视图。
4.2 负样本机制
负样本机制是对比学习的重要组成部分，决定了模型从哪些“反例”中学习区分能力。
4.2.1 大批量负样本
增大批量大小可以在一次训练中引入更多负样本，从而提供更丰富的比较信号。该策略常能改善表示质量，但也会带来更高的计算与显存开销。
4.2.2 动量编码器与队列
动量编码器配合样本队列，可以在不显著增加批大小的情况下维护大量历史负样本。队列中的表示通常来自过去的编码结果，有助于扩大对比范围并提升训练效率。
4.2.3 硬负样本挖掘
硬负样本是与正样本更接近、但语义上不同的样本。它们对边界学习更有帮助，但筛选不当时也更容易引入噪声，因此通常需要与稳定的采样策略结合使用。
4.3 网络结构设计
网络结构决定了输入如何被编码以及不同表示如何交互，是对比学习系统设计的重要部分。
4.3.1 主干编码器
主干编码器负责提取基础特征，要求既能表达局部细节，也能聚合全局信息。视觉任务中常使用卷积网络或视觉Transformer，文本任务中则常采用预训练语言模型。
4.3.2 投影头设计
投影头一般由一层或多层非线性映射构成，用于把编码器输出转换到对比空间。实践中，投影头常能改善训练表现，使主干表示更适合下游迁移。
4.3.3 双塔与多塔结构
双塔结构常用于两个输入之间的比较，例如图文检索或文本匹配；多塔结构则可扩展到更多模态或更多视图。它们便于并行计算，也更容易处理大规模候选集合。
4.4 训练技巧
对比学习对训练设置较为敏感，批大小、归一化方式和稳定性控制都可能显著影响结果。
4.4.1 批大小与学习率
较大的批大小通常能提供更多负样本，但也要求更谨慎地调整学习率。若学习率过大，模型可能振荡；过小则会导致收敛缓慢。二者常需联动调参。
4.4.2 归一化与正则化
向量归一化可以使相似度计算更稳定，常与余弦相似度配合使用。正则化手段则有助于缓解过拟合和表示退化问题，尤其在数据规模有限时更为重要。
4.4.3 训练稳定性控制
训练稳定性涉及温度系数、梯度裁剪、动量更新、学习率调度等多个方面。对比学习中若正负样本分布不均或增强过强，容易出现收敛困难，因此通常需要结合监控指标和消融实验进行调整。
5 典型算法
对比学习的发展过程中形成了多种代表性算法，它们在结构、训练方式和应用侧重点上各有特点。
5.1 早期方法
早期方法主要面向样本配对与距离学习，为后续对比学习框架奠定了基础。
5.1.1 Siamese Network
Siamese Network 通过共享参数的双分支网络处理成对样本，并依据相似性目标训练表示。它强调两个输入的比较关系，是后续对比结构的重要原型。
5.1.2 Triplet Loss
Triplet Loss 使用锚点、正样本和负样本三元组来约束表示空间，要求锚点与正样本更近、与负样本更远。该方法在度量学习和检索任务中影响深远，也常被视作对比学习的重要先导形式。
5.2 视觉领域方法
视觉领域是对比学习发展最活跃的方向之一，涌现出多种具有代表性的自监督方法。
5.2.1 SimCLR
SimCLR 通过强数据增强和大批量训练构造对比目标，强调同一图像不同视图之间的一致性。它的简单结构和良好效果使其成为视觉对比学习中的经典方法。
5.2.2 MoCo
MoCo 通过动量编码器和队列维护大量负样本，在较小批量下也能实现有效训练。其核心优势在于负样本库的持续更新，兼顾了效率与表示质量。
5.2.3 BYOL
BYOL 采用不显式依赖负样本的训练方式，通过在线网络与目标网络之间的预测一致性学习表示。该方法说明，对比学习并不一定必须依赖传统负例，也可通过结构化自举获得有效表征。
5.2.4 SwAV
SwAV 结合在线聚类与视图交换约束，使不同增强视图分配到一致的原型上。它把聚类思想引入对比学习，增强了表示的语义组织能力。
5.3 文本领域方法
文本领域的对比学习更关注语义接近、句子级表征和检索匹配等问题。
5.3.1 Sentence-BERT式对比训练
Sentence-BERT式方法通过成对或三元组训练获得高质量句向量，使语句在语义空间中的距离更符合人类判断。它在句子检索、相似度计算和文本匹配中应用广泛。
5.3.2 句向量学习方法
句向量学习方法通常结合上下文编码和对比目标，使模型输出可直接用于检索和相似度比较的固定长度表示。其重点在于压缩句子语义，并尽量保留关键关系信息。
5.4 图表示对比学习
图结构数据中的对比学习用于学习节点、子图或整图表示，适合社交网络、分子图和知识图谱等任务。
5.4.1 节点级对比
节点级对比通常将同一节点在不同图视图或不同采样条件下的表示拉近，从而强化局部结构表达。它有助于捕获节点的邻域语义和结构角色。
5.4.2 图级对比
图级对比以整张图为对象，通过比较不同增强视图学习全局表示，常用于图分类和图检索任务。它关注的是整体语义而非单个节点特征。
5.4.3 子图对比
子图对比通过比较局部子结构来学习更细粒度的图表示，兼顾局部模式和全局上下文。此类方法在结构复杂、局部模式显著的数据中较有优势。
6 应用领域
对比学习的应用范围十分广泛，几乎覆盖所有需要高质量表示学习的场景。其优势在于既能利用少量标签，也能从海量无标注数据中提取有用信息。
6.1 计算机视觉
在视觉任务中，对比学习常作为预训练或特征学习方法，用于提升模型对图像内容和结构变化的鲁棒性。
6.1.1 图像分类
对比学习预训练得到的视觉表示，通常能为图像分类提供更好的初始化。即使下游数据较少，模型也可能获得优于随机初始化的性能。
6.1.2 目标检测
在目标检测中，对比学习可增强特征的判别能力，帮助模型更好地区分背景与目标区域。对于复杂场景中的小目标或相似目标，这种优势更为明显。
6.1.3 语义分割
语义分割要求像素级或区域级区分，表示质量直接影响边界和细节恢复。对比学习有助于学习更稳定的局部表征，从而改善分割精度与一致性。
6.2 自然语言处理
文本任务中，对比学习主要用于语义表示、检索和匹配，尤其适合需要句级理解的应用。
6.2.1 语义检索
语义检索依赖向量表示来寻找语义接近的文本，对比学习可显著提升查询与文档之间的匹配效果。它常用于问答系统、知识检索和搜索排序。
6.2.2 句子表征
句子表征任务中，对比学习能够把相近语义的句子映射到相近区域，便于后续聚类、分类和检索。高质量句向量也是许多下游任务的重要基础。
6.2.3 文本匹配
文本匹配需要判断两个文本在语义上是否对应或相近，例如问句与答案、标题与正文、摘要与原文。对比学习通过构造正负文本对，能够提高匹配判别的准确性。
6.3 语音与音频
语音和音频任务中，对比学习常被用于学习对说话人变化、噪声和环境差异更稳健的表示。
6.3.1 声纹识别
声纹识别需要区分不同说话人的身份特征。对比学习通过拉近同一说话人的不同片段、推远不同说话人的样本，可提升身份表征能力。
6.3.2 语音表示学习
语音表示学习强调从原始波形或声学特征中提取通用向量，为识别、检索和理解任务提供基础。对比目标有助于模型学习韵律、内容与说话风格的综合信息。
6.4 推荐系统与搜索
在推荐和搜索场景中，对比学习可用于建模用户、物品及其交互关系，从而提升召回和排序效果。
6.4.1 用户表示
用户表示学习旨在刻画用户偏好及其变化。对比学习可以把相似行为模式的用户拉近，帮助系统更好理解兴趣结构。
6.4.2 物品表示
物品表示需要反映内容特征和交互特征。通过对比学习，语义相近或交互相似的物品可获得更接近的向量表示，便于召回与聚类。
6.4.3 排序与召回
在召回阶段，对比学习有助于构建高质量候选集合；在排序阶段，则可提高候选之间的区分能力。两者结合时，往往能提升系统整体效果。
7 评价与分析
对比学习的评价不仅看最终准确率，还要考察表示质量、泛化能力和训练过程的稳定性。由于其作用常体现在下游迁移中，因此评估方式通常较为综合。
7.1 常用评测指标
评测指标需与任务目标对应，既包括直接性能指标，也包括用于衡量表示可迁移性的辅助指标。
7.1.1 准确率与召回率
准确率和召回率常用于分类、检索与匹配任务，反映模型在正确识别和覆盖目标样本方面的能力。对比学习模型在这些指标上的提升，通常意味着表示质量更高。
7.1.2 线性探测
线性探测是评价表征学习成果的常见方式，即冻结预训练编码器，仅训练一个线性分类器。若线性探测效果较好，通常说明所学表示具有较强的可分性。
7.1.3 下游任务性能
下游任务性能是最直接的综合指标，涵盖分类、检索、分割、匹配等具体应用。它能够反映预训练表示是否真正带来迁移收益，而不只是训练集上的局部改进。
7.2 消融实验
消融实验用于分析不同组件对整体性能的贡献，是理解对比学习机制的重要手段。
7.2.1 增强策略消融
通过替换或移除某些数据增强方式，可以观察模型对视图变化的依赖程度。该实验有助于判断哪些增强最能促进语义不变性学习。
7.2.2 损失函数消融
损失函数消融通常比较不同对比目标、温度设置或正负权重的影响。它能帮助研究者理解模型性能提升究竟来自何种优化机制。
7.2.3 模型结构消融
模型结构消融会检验编码器、投影头、队列或多塔结构等模块的作用。通过删减或替换模块，可以明确哪些设计对最终结果最关键。
7.3 可视化分析
可视化分析能够直观展示表示空间的组织情况，常用于检查类簇分布和特征迁移效果。
7.3.1 特征空间分布
特征空间分布图可以显示样本在嵌入空间中的聚合与分散情况。若类簇清晰、边界分明，通常意味着模型学到了较好的结构信息。
7.3.2 类间距离分析
类间距离分析关注不同类别在表示空间中的间隔大小及其稳定性。距离过近可能导致混淆，过远则可能使空间利用率下降，因此需要综合观察。
7.3.3 表示迁移分析
表示迁移分析考察预训练表示在新任务中的适应程度。若迁移后仍能保持较高性能，说明对比学习获得的表征具有较强通用性。
8 研究进展与挑战
对比学习已经从早期的度量学习思路发展为覆盖多种模态和任务的通用表征范式，但其研究仍面临若干基础问题。
8.1 方法演化
随着研究深入，对比学习不断从单一监督信号扩展到更复杂的训练范式，适用范围也逐渐扩大。
8.1.1 从监督到自监督
早期对比方法多依赖标注或明确样本对，而后逐渐发展出自监督范式，使大规模无标注数据也能参与训练。这一转变大幅降低了数据依赖门槛。
8.1.2 从单模态到多模态
对比学习最初多用于单模态特征学习，后来扩展到图文、语音文本、视频字幕等跨模态场景。多模态发展使其在统一表示空间和跨域检索方面展现出更强能力。
8.2 主要挑战
尽管对比学习效果突出，但其训练机制和样本构造也带来一些固有问题。
8.2.1 负样本依赖问题
许多方法对负样本质量较为敏感。若负样本过少，模型难以学到充分区分；若负样本存在误判，又可能伤害语义结构学习。
8.2.2 表示坍塌风险
在某些无负样本或弱约束设置下，模型可能输出相近甚至相同的表示，失去区分能力。这类坍塌现象是对比学习研究中的重要问题之一。
8.2.3 计算与存储开销
高质量对比训练往往需要大量样本、复杂增强和额外记忆机制，因此计算成本和存储需求较高。如何在效率与性能之间取得平衡，是工程应用中的关键考虑。
8.3 未来方向
对比学习未来的发展，可能更多围绕数据质量、跨域能力和与其他范式的结合展开。
8.3.1 更高质量样本构造
更精细的正负样本设计和增强策略，仍是提升对比学习性能的重要方向。若能更准确地反映语义关系，模型通常会获得更稳健的表示。
8.3.2 跨领域泛化
如何让对比学习在不同领域、不同数据分布下保持有效，是未来研究重点之一。增强跨领域泛化能力，有助于其在复杂现实任务中更广泛落地。
8.3.3 与生成式模型结合
对比学习与生成式模型的结合，可能带来表示学习与内容建模的互补优势。前者强调结构化区分，后者侧重数据生成与补全，二者协同有望提升模型对语义和细节的把握。