1 定义与基本原理
自监督学习是一种无需人工标注标签，通过利用数据本身的内部结构或关系来构造监督信号，从而训练深度神经网络的学习范式。其核心思想是从未标注数据中设计“伪任务”（pretext task），让模型通过预测自身某一部分（如遮蔽的单词、旋转的角度、图像块的位置）来学习通用的特征表示，随后将这些表示迁移到下游任务中。自监督学习在自然语言处理（如BERT、GPT）和计算机视觉（如SimCLR、MAE）等领域取得了显著成功，已成为当前人工智能研究的重要方向。
1.1 监督学习与自监督学习的区别
监督学习依赖人工标注的输入-输出对（如图像-类别标签）进行训练，模型通过最小化预测与标签之间的误差来学习映射函数。自监督学习则不使用任何人工标签，而是从数据自身构造伪标签（例如，将句子中的某个词遮蔽后要求模型预测该词，或将图像旋转后要求模型判断旋转角度）。两者在训练数据需求、成本及泛化能力上存在根本差异：监督学习受限于标注数据的规模和多样性，而自监督学习可充分利用海量未标注数据，通常能学到更通用的特征表示。
1.2 自监督信号的构造方式
自监督信号的构造方式主要分为三类：基于预测（如预测缺失部分）、基于对比（如区分正负样本）和基于变换（如预测数据增强后的变换参数）。在自然语言处理中，常见构造方式包括掩码语言建模（MLM）和下一个词预测；在计算机视觉中，包括图像块排序、旋转角度预测、对比学习中的实例判别等。这些伪任务迫使模型捕捉数据的语义结构和统计规律，从而生成有效的表示。
1.3 预训练与微调范式
自监督学习通常采用两阶段范式：首先在大规模无标注数据上进行预训练，学习通用特征表示；然后将预训练模型在下游任务上进行微调（fine-tuning），即用少量标注数据调整模型参数以适应具体任务。该范式显著降低了标注成本，并在许多任务上取得了与全监督方法相当甚至更优的性能。预训练阶段不依赖任务特定标注，使得模型可被重复用于多种下游场景。
2 主要方法
2.1 对比学习
对比学习通过拉近相似样本（正样本对）在表示空间中的距离、推远不相似样本（负样本对）的距离来学习特征。其核心是构造有效的正负样本对，并设计损失函数（如InfoNCE）来最大化互信息。
2.1.1 正负样本对的定义
正样本对通常由同一数据样本的不同增强视图构成（例如对同一图像进行随机裁剪、色彩抖动后得到的两幅图像），负样本对则来自不同数据样本的视图。在自然语言处理中，正样本可定义为同一句子的不同扰动版本，或上下文相关的片段。负样本的选择直接影响对比学习的效率，大量负样本（如MoCo中的动态队列）有助于提升特征判别性。
2.1.2 代表性框架：SimCLR、MoCo、BYOL
SimCLR（Simple Framework for Contrastive Learning of Visual Representations）由Google提出，通过大批量训练和强数据增强直接计算所有正负样本的对比损失。MoCo（Momentum Contrast）采用动量编码器和动态队列机制，解耦了负样本数量与批次大小的依赖，支持大量负样本。BYOL（Bootstrap Your Own Latent）则去除了负样本，仅通过两个网络（在线网络和目标网络）的相互预测来学习表示，避免了对比学习中常见的负样本构造难题。
2.2 生成式方法
生成式方法通过重构或生成数据的部分内容来学习表示。模型需理解数据的全局结构才能准确预测缺失部分，从而学得语义特征。
2.2.1 掩码建模（Masked Modeling）
掩码建模将输入数据的部分单元随机遮蔽，要求模型根据剩余可见部分预测被遮蔽的内容。这种方法在自然语言处理和计算机视觉中均取得了突破性成果。
2.2.1.1 语言掩码（如BERT）
BERT（Bidirectional Encoder Representations from Transformers）采用掩码语言建模（MLM），随机遮蔽输入文本中15%的token，然后基于双向Transformer编码器预测这些被遮罩的token。此外，BERT还结合下一句预测任务（NSP），增强模型对句子间关系的理解。MLM使模型能够从双向上下文中学习上下文相关的词表示。
2.2.1.2 图像掩码（如MAE、MaskFeat）
MAE（Masked Autoencoders）将图像划分为不重叠的块，随机遮蔽大部分块（如75%），仅保留可见块输入编码器，然后使用轻量解码器重构原始图像。这种非对称设计显著降低了计算量，同时迫使编码器学习高层次的语义信息。MaskFeat则对图像中的特征（如HOG特征）进行掩码预测，适用于视频和图像任务。
2.2.2 自回归建模（如GPT系列）
自回归建模将数据视为序列，模型根据先前已生成的内容预测下一个元素。GPT（Generative Pre-trained Transformer）系列采用单向Transformer解码器，在大规模文本语料上进行下一个词预测（causal language modeling）。这种从左到右的生成方式适合文本生成任务，且可通过零样本或少样本学习在下游任务中表现出色。
2.3 联合嵌入方法
联合嵌入方法通过训练不同视图的表示趋于一致来学习特征，通常不依赖显式的负样本或重构目标。
2.3.1 蒸馏式方法（如DINO）
DINO（DIstillation with NO labels）采用自蒸馏框架，学生网络从教师网络的输出中学习，教师网络的参数由学生网络通过指数移动平均更新。该方法无需负样本或聚类，通过图像视角的对比和中心化正则化，使模型自发学到具有语义含义的特征，尤其适用于图像分类和分割任务。
2.3.2 聚类式方法（如DeepCluster）
DeepCluster将特征聚类与表示学习交替进行：首先对当前模型提取的特征进行K-means聚类，将聚类伪标签作为监督信号；然后使用这些伪标签训练模型更新特征。通过迭代优化，模型逐渐学到能够区分数据自然类别的表示。该方法直接利用数据的内在结构，无需人工标注。
3 应用领域
3.1 自然语言处理
自监督学习在自然语言处理中应用广泛，典型代表包括BERT、GPT、RoBERTa等。预训练模型可迁移至文本分类、命名实体识别、问答系统、机器翻译、情感分析等下游任务。通过在海量无标注文本上预训练，模型学会通用的语法和语义知识，显著提升了NLP任务的性能上限。
3.2 计算机视觉
自监督学习在计算机视觉领域取得了与监督学习竞争甚至超越的表现。SimCLR、MoCo、BYOL、MAE等方法在ImageNet分类、目标检测、语义分割等任务上表现优异。无标注图像数据（如YouTube视频帧、社交媒体图片）可被充分利用，降低了对昂贵人工标注的依赖。
3.3 多模态学习（如CLIP、ALIGN）
CLIP（Contrastive Language-Image Pre-training）通过对比学习将文本和图像映射到同一表示空间，在400M图文对上训练后，可零样本迁移到图像分类、检索等任务。ALIGN（A Large-scale ImaGe and Noisy-text embedding）进一步提升了噪声数据的鲁棒性。多模态自监督学习实现了视觉和语言信息的对齐，推动了图文理解、视觉问答等应用的发展。
3.4 图数据与推荐系统
在图数据中，自监督学习常用于节点分类、链接预测等任务。方法包括掩码图结构预测、对比学习（如GraphCL）、生成式模型（如GPT-GNN）。在推荐系统中，自监督学习可用于提取用户行为序列的模式，缓解冷启动和稀疏性问题，提升推荐准确性和多样性。
4 优势与挑战
4.1 优势：减少标注依赖、利用海量数据、提升泛化性能
自监督学习最主要的优势是摆脱了对人工标注的依赖，使模型能够利用互联网上近乎无限的未标注数据。在大量数据上预训练得到的表示通常更加鲁棒和通用，迁移到下游任务时往往表现出比纯监督学习更好的泛化能力，尤其在数据稀缺场景下优势显著。此外，自监督学习框架具有灵活性，可通过设计不同的预训练任务适应多种数据模态。
4.2 挑战：任务设计复杂性、计算资源消耗、评估基准一致性
自监督学习的挑战首先在于预训练任务的设计：无效的伪任务可能导致学到的表示无法迁移。其次，大规模预训练通常需要数百甚至数千GPU小时，计算成本高昂，限制了其在资源受限场景下的普及。此外，由于不同工作使用不同的数据集、预处理和评估协议，自监督学习方法的比较缺乏统一基准，结果复现和公平对比存在困难。最后，部分自监督方法（如对比学习）对数据增强策略敏感，需要大量工程调优。
5 历史沿革与未来发展
5.1 早期探索（词向量、自编码器）
自监督学习的思想可追溯到2000年代初的神经网络语言模型，如Bengio等人提出的前馈神经网络模型，通过预测下一个词学习词嵌入。2013年的Word2Vec（CBOW和Skip-gram）利用上下文预测目标词，可视为自监督学习的早期成功应用。在视觉领域，去噪自编码器（Denoising Autoencoder）和变分自编码器（VAE）通过重构输入数据学习潜在表示，属于生成式自监督的雏形。
5.2 深度学习时代的关键突破
2017年之后，自监督学习迎来爆发。BERT（2018）和GPT（2018）展示了掩码建模和自回归建模在自然语言处理上的巨大潜力。2019年，SimCLR、MoCo等对比学习框架在视觉任务上首次达到与监督学习可比的性能。2020年，BYOL证明了无需负样本的可行性；2021年，MAE将掩码建模引入视觉，简化了训练流程。同期，多模态模型如CLIP（2021）和DINO（2021）进一步拓展了自监督学习的应用边界。
5.3 当前趋势：统一框架与规模化学习
当前自监督学习的发展趋势是构建统一框架，以适配不同模态和任务。例如，掩码建模思想已被推广至几乎所有数据形式（文本、图像、视频、音频、图）。同时，模型规模持续增长（如GPT-3、Swin Transformer等），自监督预训练在大模型上的效果尤为突出。未来方向包括：结合因果推理与自监督学习、降低计算开销（如知识蒸馏、稀疏训练）、融入结构化知识和物理先验，以及探索更接近人类学习方式的持续自监督机制。