1 基本概念
图神经网络是一类面向图结构数据的机器学习模型。与处理规则网格数据的卷积神经网络不同，它更强调节点、边以及它们之间的连接关系，能够在保留拓扑信息的同时学习特征表示。由于图结构在现实世界中十分常见，这类模型逐渐成为表示学习的重要分支。
1.1 图结构数据
图结构数据由若干实体及其相互联系构成，通常用节点和边来表达。其显著特点是元素之间并非独立存在，而是通过连接关系形成整体结构，因此适合描述复杂关联场景。
1.1.1 节点
节点是图中的基本单位，通常表示个体、对象或状态。在社交网络中，节点可以代表用户；在分子图中，节点常表示原子；在知识图谱中，则可对应实体。节点往往带有属性信息，这些属性也是模型输入的重要组成部分。
1.1.2 边
边用于表示节点之间的联系，可以是无向的，也可以是有向的。边除了描述连接关系外，还可能携带权重、类型或时间信息。例如，推荐系统中的用户与物品交互可视作边，交通网络中的道路连接也可抽象为边。
1.1.3 邻接关系
邻接关系是图结构的核心特征之一，反映了节点之间是否直接相连。图神经网络正是借助这种局部连接模式，在节点之间传播信息，并逐步形成对整体结构的理解。邻接关系的稀疏性、方向性和异质性，都会影响模型设计。
1.2 图神经网络定义
图神经网络通常指能够在图上进行特征传播与表示学习的一类模型。它通过聚合邻域信息更新节点状态，并可进一步用于节点、边或整个图的预测任务。其关键目标是在拓扑约束下学习有效表示。
1.2.1 节点级任务
节点级任务关注每个节点自身的类别、属性或状态预测，例如节点分类、节点回归和异常检测。模型需要结合节点本身特征与邻域上下文，从而判断某一节点的语义或功能。
1.2.2 边级任务
边级任务主要面向节点对之间关系的判断，包括链接预测、边分类和关系类型识别等。此类任务常用于判断两个实体是否存在关联，或该关联属于何种类型。
1.2.3 图级任务
图级任务以整个图作为预测对象，例如分子性质分类、图回归和图相似性判断。此时模型不仅要提取局部模式，还要通过读出机制将分散的节点信息汇总为全局表示。
1.3 研究背景
图神经网络的发展源于对复杂关系数据建模需求的增长。随着网络化数据在各领域广泛出现，传统方法难以充分利用结构信息，促使研究者寻找更适合图数据的学习框架。
1.3.1 传统机器学习方法的局限
传统机器学习通常依赖人工设计特征，再输入分类器或回归器进行训练。这种方式在图数据场景中面临明显限制：一方面，结构信息难以被完整编码；另一方面，不同图之间形态差异较大，导致特征工程成本较高且泛化能力有限。
1.3.2 深度学习在图数据上的扩展
深度学习擅长自动提取特征，因此被自然扩展到图数据上。图神经网络正是在这一背景下形成，通过端到端训练方式直接学习节点和图的表示，使模型能够更好地适应复杂结构数据。
2 核心原理
图神经网络的核心机制是信息在图上的传播与聚合。模型通常从局部邻域出发，逐层更新节点状态，并在更高层次形成更抽象的表示。这个过程兼具结构感知与表示学习的特点。
2.1 消息传递机制
消息传递是图神经网络最常见的计算范式。节点在每一轮迭代中接收邻居发来的信息，经过聚合和变换后更新自身表示，从而逐步融合局部上下文。
2.1.1 邻居聚合
邻居聚合指将相邻节点的特征按一定规则汇总，常见方式包括求和、平均和最大池化。聚合函数通常需要满足对邻居顺序不敏感的要求，以适应图结构本身的无序特性。
2.1.2 状态更新
状态更新是将当前节点特征与聚合结果结合，生成新的隐藏表示。更新过程一般会引入线性变换、非线性激活或门控机制，以增强模型对复杂关系的表达能力。
2.1.3 多层传播
多层传播意味着信息可从更远的邻域传递到目标节点。随着层数增加，节点能够感知更大范围的结构背景，但同时也可能带来表示混叠和训练困难等问题，因此层数设计需要权衡。
2.2 图表示学习
图表示学习旨在将图中的节点、子结构或整体映射到连续向量空间中，以便后续任务使用。这类表示既要保留局部结构信息，也要反映全局语义关系。
2.2.1 节点嵌入
节点嵌入是为每个节点学习低维向量表示，使其能够体现属性与结构上下文。节点嵌入常被用于分类、链接预测和相似度计算等任务。
2.2.2 子图表示
子图表示关注图中的局部模式，例如某个功能团、社区结构或局部路径组合。它可用于更细粒度的分析，尤其适合需要局部结构识别的场景。
2.2.3 图嵌入
图嵌入是对整个图进行向量化表示，通常通过汇总所有节点的表示得到。该表示便于进行图分类、图检索和图相似性比较，也便于与其他深度模型连接。
2.3 读出函数
读出函数用于将节点级表示整合为图级输出，是图级任务中的关键步骤。它决定了模型如何从分散的局部信息形成统一的全局表达。
2.3.1 池化
池化通过对节点表示进行求和、平均或最大化操作来生成图表示。它实现简单、计算高效，适合作为基础读出方式。
2.3.2 拼接
拼接是将多个来源的特征按维度连接起来，例如把不同层的表示或不同类型节点的表示组合在一起。这种方式能够保留更多信息，但也会增加特征维度。
2.3.3 注意力加权
注意力加权根据节点或子结构的重要程度分配不同权重，使更关键的信息在读出阶段占据更大比重。该机制有助于模型聚焦于对任务更有贡献的部分。
3 模型架构
图神经网络的结构形式较为多样，不同架构在信息传播方式、参数组织和适用场景上各有侧重。随着研究推进，经典模型与多种变体不断发展。
3.1 经典图神经网络
早期图神经网络在形式上受到循环网络、卷积网络和递归网络等思想影响，主要目标是把图上的局部依赖关系纳入可训练框架。
3.1.1 循环图神经网络
循环图神经网络借鉴循环神经网络的迭代更新思想，通过多次状态传递逐步收敛到稳定表示。它通常适合处理节点间关系较强且需要反复传播信息的图。
3.1.2 卷积图神经网络
卷积图神经网络试图将卷积操作推广到非欧几里得结构上，通过局部邻域采样和特征组合实现“图卷积”效果。该思路奠定了后续大量图模型的基础。
3.1.3 递归图神经网络
递归图神经网络强调自底向上的组合过程，常通过树状或层次化结构进行信息整合。它在结构较规则的图或层级图建模中较有优势。
3.2 常见变体
随着应用需求增加，图神经网络逐步演化出多种变体，以提升表达能力、训练效率或适配特殊数据类型。
3.2.1 图卷积网络（GCN）
图卷积网络是图神经网络中最具代表性的模型之一，通常通过邻接矩阵归一化实现信息传播。它结构简洁，易于训练，在节点分类等任务中应用广泛。
3.2.2 图注意力网络（GAT）
图注意力网络在邻居聚合时引入注意力机制，为不同邻居分配不同权重。这样模型可以自动判断哪些连接更重要，从而增强表达灵活性。
3.2.3 图采样网络
图采样网络通过对邻居进行抽样或按层采样，减少大规模图上的计算负担。它适合节点数量庞大、边密集或训练资源受限的场景。
3.2.4 图自编码器
图自编码器通常由编码器和解码器组成，前者将图压缩为低维表示，后者尝试重构边或属性信息。它常用于无监督表示学习和链接预测。
3.3 异构图神经网络
异构图神经网络专门处理包含多种节点和边类型的图。相比同质图模型，它需要同时考虑类型差异、语义关系和跨类型传播方式。
3.3.1 多类型节点
多类型节点表示图中存在不同类别的实体，例如用户、商品和商家同时出现在同一网络中。模型在处理时通常需要分别编码各类节点特征。
3.3.2 多类型边
多类型边用于描述不同语义的关系，如“关注”“购买”或“引用”等。不同边类型往往对应不同传播规则，因此需要差异化建模。
3.3.3 元路径建模
元路径建模是异构图中的常用方法，通过预先定义节点类型与边类型的组合路径来刻画语义联系。它有助于捕捉跨类型的高阶关联。
4 训练方法
图神经网络的训练通常遵循监督学习或自监督学习框架。由于图数据的结构特性，训练过程不仅要优化任务目标，还需兼顾稳定性和泛化能力。
4.1 损失函数
损失函数用于衡量模型输出与目标标签之间的差异，是训练优化的直接依据。不同任务会选择不同类型的损失形式。
4.1.1 分类损失
分类损失常用于节点分类、图分类和边分类任务，典型形式包括交叉熵损失。它鼓励模型将样本映射到正确类别。
4.1.2 回归损失
回归损失用于预测连续值，例如分子性质、交通流量或评分数值。常见做法是采用均方误差或绝对误差来约束输出。
4.1.3 对比学习损失
对比学习损失通过拉近正样本表示、推远负样本表示来学习判别性特征。它在标注稀缺场景下尤其有价值，可用于预训练或表示增强。
4.2 优化策略
优化策略决定模型如何调整参数以降低损失并提升性能。针对图结构数据，除了常规优化方法外，还常结合正则化和早停等技巧。
4.2.1 反向传播
反向传播用于计算参数梯度，并据此更新模型权重。图神经网络中的反向传播与其他深度模型类似，但会受到图传播路径和邻域依赖的影响。
4.2.2 正则化
正则化通过限制参数规模、增加噪声或约束表示分布来减少过拟合。常见方式包括权重衰减、丢弃法以及结构层面的约束。
4.2.3 早停
早停通过监控验证集表现，在性能不再提升时提前终止训练。这种方法有助于避免模型在训练集上过度拟合。
4.3 数据划分
图数据的划分方式会直接影响训练、验证和测试结果。与独立同分布样本不同，图上的样本之间可能存在强关联，因此划分方式需要更谨慎设计。
4.3.1 节点划分
节点划分通常用于节点级任务，将部分节点标注为训练集、验证集和测试集。此时图结构往往保持完整，但标签只在部分节点上可见。
4.3.2 边划分
边划分多用于链接预测和关系建模，将一部分边用于训练，另一部分用于评估。它要求模型在缺失部分连接信息的条件下完成推断。
4.3.3 图划分
图划分常见于图分类任务，即把多个独立图样本分配到不同数据集划分中。每个图可视为一个样本，划分时需保证类别分布尽量均衡。
5 关键技术挑战
尽管图神经网络表现出较强的建模能力，但在深层结构、大规模数据和复杂任务中仍面临多方面挑战。相关问题直接影响模型稳定性与实用性。
5.1 过平滑问题
过平滑是图神经网络中较为典型的现象，指随着层数加深，不同节点的表示逐渐趋于相似，导致区分能力下降。
5.1.1 深层传播的影响
当信息经过多轮传播后，节点会不断吸收周围邻域的特征。如果传播层数过多，局部差异会被逐步稀释，最终使表示失去辨识度。
5.1.2 表征退化
表征退化表现为节点嵌入趋同、判别边界模糊和任务性能下降。该问题在层数较深或图结构高度连通时更为明显。
5.2 过拟合问题
过拟合是模型在训练数据上表现良好，但在未见数据上泛化较差的现象。图神经网络在标注稀少或模型参数较多时更容易出现这一问题。
5.2.1 小样本图数据
当可用标注样本较少时，模型容易记住局部模式而非普适规律。尤其在图数据稀疏或类别不均衡时，过拟合风险会进一步增加。
5.2.2 参数复杂度
更复杂的网络结构通常包含更多参数，若训练数据规模不足，就可能使模型过度拟合训练集。合理控制模型容量是提升泛化能力的重要手段。
5.3 可扩展性问题
随着图规模增大，计算与存储成本会迅速上升。如何在保持性能的同时处理大规模图，是图神经网络工程化落地的重要议题。
5.3.1 大规模图训练
在大图上进行全图训练往往消耗大量显存和计算资源。节点数和边数一旦达到较高规模，模型更新速度与系统效率都会受到限制。
5.3.2 采样与分块
采样和分块是提升可扩展性的常用手段。前者通过减少邻域规模降低计算量，后者则把大图拆分成多个局部子图或批次进行处理。
5.4 可解释性问题
图神经网络的预测往往依赖多层传播和复杂聚合过程，因此其决策依据并不总是直观可见。增强可解释性有助于提升模型可信度。
5.4.1 邻居贡献分析
邻居贡献分析关注哪些相邻节点对最终结果影响最大。通过评估不同邻居的权重或扰动效果，可以部分揭示模型关注的结构信息。
5.4.2 决策路径追踪
决策路径追踪试图还原模型从输入到输出的关键传播链路。该方法有助于理解模型依据哪些节点、边或子图作出判断。
6 典型应用
图神经网络适用于多种具有关系结构的数据场景，尤其在需要综合局部与全局信息的任务中表现突出。
6.1 社交网络分析
社交网络天然具有图结构，用户之间的关注、互动与兴趣关联都可被表示为节点和边。图神经网络因此成为该领域的重要工具。
6.1.1 社群发现
社群发现旨在识别网络中连接紧密、行为相似的用户群体。图神经网络可以利用结构信息与属性信息辅助划分群组。
6.1.2 用户表示学习
用户表示学习通过学习用户在网络中的嵌入向量，刻画其行为偏好和关系特征。该表示可用于推荐、检索和用户画像等任务。
6.2 推荐系统
推荐系统常涉及用户与物品之间的交互图，图神经网络能够同时建模显式关系和隐式关联，从而改善推荐效果。
6.2.1 用户物品建模
用户物品建模将用户、商品及其交互组织成图结构。模型通过传播邻域信息来捕捉兴趣相似性与物品关联性。
6.2.2 协同过滤增强
图神经网络可作为协同过滤的增强手段，补充传统方法对高阶邻居关系的刻画不足。这样有助于缓解稀疏交互数据带来的问题。
6.3 分子与材料科学
在分子和材料领域，原子、键和局部结构天然适合图表示，因此图神经网络常被用于性质预测与结构分析。
6.3.1 分子性质预测
分子性质预测通过图模型估计分子的溶解度、活性、稳定性等指标。模型需要理解原子组成、化学键连接及局部基团模式。
6.3.2 反应建模
反应建模关注分子在化学反应中的结构变化与产物生成。图神经网络可用于辅助反应结果预测和反应路径分析。
6.4 交通与城市计算
交通网络具有明显的图结构特征，道路、站点和流量之间存在复杂依赖。图神经网络因此适合处理城市运行相关问题。
6.4.1 路网预测
路网预测包括道路状态、通行能力和局部拥堵趋势的预测。模型通常结合拓扑连接和时序数据进行分析。
6.4.2 流量估计
流量估计旨在根据历史观测推断某一时刻或区域的交通流动情况。图神经网络能够利用相邻道路之间的传导关系提高估计精度。
6.5 知识图谱
知识图谱以实体和关系构成图结构，天然适合图神经网络建模。相关方法常用于实体表示学习和关系推理。
6.5.1 实体表示
实体表示通过向量化方式编码图中的对象，便于进行相似度计算和下游推断。高质量实体嵌入是知识图谱任务的基础。
6.5.2 关系推理
关系推理旨在根据已有实体与关系信息推断缺失连接或隐含事实。图神经网络可利用邻域传播和语义组合增强推理能力。
7 评价与实验
图神经网络的效果通常通过标准数据集与统一实验协议进行验证。合理的实验设计有助于比较不同模型的优劣，并检验方法的稳定性。
7.1 数据集
图神经网络实验常用的数据集类型多样，覆盖引文网络、分子图和社交图等不同场景。数据集选择会影响任务难度与结果解释。
7.1.1 引文网络数据
引文网络数据通常由论文及其引用关系构成，常用于节点分类和表示学习研究。这类数据结构清晰，便于方法比较。
7.1.2 分子图数据
分子图数据以化学分子为图样本，常用于图分类与性质预测。其节点和边通常具有明确的化学语义。
7.1.3 社交图数据
社交图数据反映用户之间的互动、关注或协作关系，适合用于链接预测、社群分析和行为建模等任务。
7.2 评估指标
评估指标用于衡量模型预测质量，不同任务会采用不同度量方式。指标选择应与任务目标保持一致。
7.2.1 准确率
准确率表示预测正确的样本占总样本的比例，常用于类别分布较均衡的分类任务。它直观但在类别不平衡时可能不够全面。
7.2.2 F1值
F1值综合考虑精确率与召回率，适用于正负样本分布不均的情形。它能更全面反映模型在分类任务中的综合表现。
7.2.3 AUC
AUC常用于二分类或排序任务，衡量模型区分正负样本的能力。该指标对阈值不敏感，因而在链接预测等任务中较常见。
7.3 实验设置
实验设置决定结果是否公平可比，通常包括基线方法、消融分析和参数调优等内容。规范设置是可信结论的重要前提。
7.3.1 基线模型
基线模型用于提供参考标准，便于衡量新方法的实际提升幅度。一般会选择传统方法和同类深度模型作为比较对象。
7.3.2 消融实验
消融实验通过移除某些模块或机制来观察性能变化，从而验证各组件的作用。它有助于分析模型设计的有效性。
7.3.3 超参数调优
超参数调优涉及学习率、层数、隐藏维度和正则强度等设置。合理调参往往会显著影响最终性能，因此在实验中十分关键。
8 发展趋势
图神经网络仍在持续演进，研究重点正从基础建模扩展到预训练、动态场景和可靠性等方向。未来的发展将更加注重通用能力与实际部署效果。
8.1 自监督图学习
自监督图学习利用数据自身结构生成训练信号，以减少对人工标注的依赖。这一方向对于标注稀缺的图任务尤为重要。
8.1.1 掩码建模
掩码建模通过遮蔽部分节点、边或属性，让模型预测被隐藏的信息。该方法能够迫使模型学习更稳健的结构表示。
8.1.2 对比预训练
对比预训练通过构造不同视图或增强样本，使模型在预训练阶段学习通用表示。预训练后的模型通常更容易迁移到下游任务。
8.2 动态图神经网络
动态图神经网络面向随时间变化的图数据，能够处理节点关系的新增、消失和演化。它在时序交互和在线系统中具有较强应用潜力。
8.2.1 时序建模
时序建模强调图结构随时间变化的规律，通常会结合时间编码或序列模型。这样可以捕捉事件发生顺序及其影响。
8.2.2 在线更新
在线更新指模型能够在新数据到来时持续调整参数或表示，而无需完全重新训练。这对于实时系统和快速变化环境尤为重要。
8.3 大模型与图学习融合
大模型与图学习的结合正在成为新的研究方向，目标是把图结构信息与多模态语义能力整合起来，提升复杂任务中的理解与推理水平。
8.3.1 图-文本联合表示
图-文本联合表示将结构信息与自然语言信息共同编码，适用于知识图谱、文献分析和产品理解等任务。它有助于弥补单一模态表达不足。
8.3.2 图推理增强
图推理增强强调借助大模型的语义理解能力提升图上的推断效果。通过联合建模结构和语义，模型在复杂关系任务中可能获得更强泛化能力。
8.4 可靠性与安全性
随着图神经网络进入更多实际场景，可靠性与安全性问题变得愈发重要。模型不仅要准确，还要稳定、可控并避免明显偏差。
8.4.1 鲁棒性提升
鲁棒性提升关注模型在噪声、缺失边、特征扰动或图结构变化下的稳定表现。增强鲁棒性有助于提高模型在真实环境中的可用性。
8.4.2 偏差与公平性
偏差与公平性问题涉及模型是否对不同群体或结构位置产生不均衡影响。研究者通常希望减少训练数据和结构分布带来的系统性偏差，使模型决策更均衡可靠。