第一次听到GNN（图神经网络）这几个字，我脑子里浮现的是一张由点和线组成的网。那时我刚做完一个图像分类项目，觉得深度学习无非就是卷积、池化、全连接那一套。等我真正把图神经网络的基础内容从头到尾过了一遍，才意识到自己对“神经网络模型结构”的认知还是太窄了。

社交网络里的用户关系、分子结构、知识图谱、推荐系统里的用户-物品互动，本质上都是图结构数据。普通卷积没法直接套在图上，因为图上的每个节点邻居数量不一样，也没有固定的空间顺序。GNN 的价值就是在这种“不规则”数据结构上做特征学习和预测，比如判断一个用户是不是风险用户、预测一条边是否会出现、对整张分子图做属性分类。这篇文章会从零讲起，用最朴素的例子把 GNN 的基础概念拆开，再带你搭一个可运行的节点分类 Demo，最后把我在实际项目里踩过的坑挨个列出来。适合刚入门深度学习、希望在图上跑模型的读者。

1. 先搞清楚一件事：GNN到底在解决什么问题

1.1 普通深度学习模型面对图数据时的三个“水土不服”

先看一张图长什么样。图由节点和边组成，社交网络里用户是节点，关注关系是边；引文网络里论文是节点，引用关系是边；分子结构里原子是节点，化学键是边。这种数据有一个共同特点：每个节点的邻居数量不确定，邻居之间也没有天然的顺序。两张同样规模的图，结构可以完全不同。

这就让传统模型很尴尬。图像数据的像素是规则网格，卷积核可以在固定窗口内滑动，因为局部平移不变性天然成立。文本数据是一维序列，循环神经网络可以按顺序逐步处理。图数据没有这种规则性，你不能定义一个 3×3 的卷积核去扫描用户的社交关系，也不能把节点硬排成一个序列丢掉结构信息。

第二个问题是特征独立假设失效。传统机器学习里，很多方法假设样本之间是独立的，模型对每个样本单独做预测。图数据恰恰相反，节点之间通过边相互影响，一个用户的风险等级跟他的好友行为高度相关。把用户一个个拎出来单独预测，相当于放弃了最关键的上下文信息。

第三个问题是规模问题。真实图动辄百万节点、上亿条边，邻接矩阵如果用稠密表达根本存不下。即使存得下，传统模型也无法在这种规模上做端到端学习。

GNN 解决的就是这三件事：它通过消息传递让每个节点感知邻居信息，通过聚合操作处理不规则的邻域结构，通过稀疏矩阵运算适配大规模图。

1.2 图的数学表示与GNN的基础假设

在图神经网络里，一张图通常用几个矩阵表示。节点特征矩阵 X 的每一行对应一个节点，列是特征维度。邻接矩阵 A 记录节点之间的连接关系，A[i][j]=1 表示节点 i 和 j 之间有边。度矩阵 D 是对角矩阵，D[i][i] 等于节点 i 的邻居个数。

这三个矩阵组合起来，就能表达一张节点带属性的图。GNN 要做的事情，本质上是对这些矩阵做一系列变换，让节点的表示向量逐渐融入邻居信息。

GNN 最核心的假设称为同质性：相邻节点往往具有相似属性或相似标签。社交网络里物以类聚，引用网络里关联论文主题接近，分子结构里相连原子类型相关。基于这个假设，GNN 用“聚合邻居特征”来更新节点表示才是合理的。如果数据是完全异配的，邻居之间特征相反，这个假设就会被打破，此时再盲目聚合邻居信息反而会帮倒忙。

理解这个假设特别重要，因为后续所有模型设计——加自环、对称归一化、注意力权重——本质上都在围绕“如何更合理地让邻居信息发挥作用”做文章。

2. 核心范式：消息传递如何从邻居“收集情报”

2.1 一个“小区业主大会”视角下的消息传递框架

GNN 的消息传递框架用生活化类比很好理解。把每个节点想象成一个小区业主，每轮迭代就是一次业主大会。会上每个业主先听左邻右舍讲自己最近的情况，把大家的信息汇总到一起，再结合自己的情况得出一个新认识。这个新认识会成为下一轮开会时，向别人传递的“个人发言”。

整个过程分成三步。第一步，每个节点收集所有邻居的当前表示向量，这相当于业主们互相了解近况。第二步，把所有邻居的表示聚合成一个固定维度的向量，你可以理解为把大家的发言总结成几条要点。第三步，把聚合结果和节点自己的表示拼接或相加，通过一个非线性变换得到新表示。

这就是消息传递范式，也叫 MPNN。一次迭代让节点感知到一层邻居的信息，迭代 k 次，节点表示就融合了 k 跳范围内邻居的信息。你可能已经意识到，这跟卷积神经网络里感受野的概念非常像——每多一层卷积，特征图上的一个点就对应输入图像更大的区域。GNN 里的层数决定感知范围，邻居范围就是它的“感受野”。

2.2 聚合函数的选择：求和、平均还是最大池化

聚合函数是消息传递的核心，直接决定邻居信息如何被融合。最常用的三种是求和聚合、平均聚合和最大池化聚合。

求和聚合把邻居特征逐位相加。优点是简单，能保留邻域的总信息量，适合处理度数不一的节点时保留“势能”。缺点是度大的节点聚合后的数值天然偏大，如果不做归一化，不同节点的表示尺度会差很多。

平均聚合把邻居特征求和后除以邻居数，相当于取邻域均值。它天然做了尺度归一化，让高密度、低密度节点都处于同一量级，模型更容易训练。代价是丢失了邻域规模的信息。

最大池化聚合逐维度取邻居中的最大值，相当于只保留最强烈的信号。对异常特征比较敏感，有时候反而有用，比如在图中识别关键节点。

实战里没有绝对最优，通常会把多种聚合方式组合起来。一个我常用的基础做法是：第一层用平均聚合保证稳定，后面层用求和聚合增强表达能力。这没有严格定论，需要根据任务看验证集表现调整。

2.3 度归一化：为什么矩阵运算里要加自环再除度数

用邻接矩阵直接做聚合会带来一个问题：度大的节点，邻居信息累积量远大于度小的节点，矩阵乘积后数值尺度差异明显，梯度训练很不稳定。

所以实际实现中，几乎都会对邻接矩阵做归一化。以最简单的对称归一化为例，流程是：先给邻接矩阵加单位阵 I，让每个节点在聚合时也带上自己的特征；然后左乘和右乘 D^(-1/2)。看起来像数学魔法，其实逻辑很直白：左乘 D^(-1/2) 让信息从邻居传到节点时按源节点度数缩放，右乘 D^(-1/2) 让信息接收时按目标节点度数缩放，夹在中间就意味着传播强度与两端的度数都相关，避免单个高连接节点主导一切。

我早期没做这步，直接拿原始邻接矩阵乘特征，结果 loss 训着训着变成 NaN。后来把特征和邻接矩阵各自做了标准化才稳定下来。这个操作不是锦上添花，而是保命用的基础细节。

注意：框架里现成的图卷积层通常默认做了归一化，但如果你自己按公式实现底层运算，这一步千万不要省略。

3. 入门必选的三种模型：GCN、GraphSAGE、GAT

3.1 GCN：最朴素的邻域平均

图卷积网络 GCN 是入门第一课。它在每一层做的事情可以概括成两条：先用线性变换把节点特征映射到新空间，再对归一化邻接矩阵做一次矩阵乘法，相当于把邻居的特征做一个加权平均。

GCN 的关键不是“卷积”这个词，而是它把卷积在图上等价成了邻域聚合。因为做了对称归一化，GCN 聚合时对不同度数的节点相对公平。它的数学形式非常简洁，一两层就能在中小规模图上取得不错效果，这也是它成为基线模型的原因。

GCN 的最大限制是直推式学习。训练时要把整张图都放进计算图，模型在训练阶段已经看到了所有节点的结构信息。如果来了一个全新的图，GCN 无法直接把学到的参数迁移过去，因为它没有学会“如何采样和聚合”，只学会了“在这张图上做平均”。另外 GCN 层数不能太深，叠到五层以上往往效果不升反降，这就是后面会提到的过平滑问题。

实际项目里，GCN 适合作为第一个跑的基线。先用它验证图结构和特征是否包含有效信号，如果 GCN 都跑不出合理结果，大概率是数据本身有问题，而不是模型不够高级。

3.2 GraphSAGE：采样之后想泛化到新图

GraphSAGE 的全称是 Graph Sample and Aggregate，它的核心改变是把“全图聚合”改成了“采样聚合”。训练时每个节点只随机采样固定数量的邻居，而不是把全部邻居用上，然后通过聚合函数得到新表示。

这样做有两个明显好处。第一，计算量从邻居总数变成固定采样数，整图训练的内存压力大幅下降，能扩展到大规模图。第二，模型学会了“根据邻居特征聚合出新表示”这个能力，而不是记住某张固定图的结构。这就让 GraphSAGE 拥有归纳学习能力，测试时即使遇到训练时没见过的新节点、新图，也能直接推理。

GraphSAGE 还引入了拼接操作，把节点自身特征和聚合后的邻居特征拼接起来，再接非线性变换。这个设计是为了防止多层聚合后节点把“自己是谁”给忘了，属于很实用的细节。

采样数量是 GraphSAGE 的关键超参数。采样太少，邻居信息不足，模型表现平庸；采样太多，退化成全图聚合，采样带来的优势就没了。我一般从一阶 25 个、二阶 10 个开始调，这是论文里的常见配置，实测在多数任务上足够稳。

3.3 GAT：让每个邻居说话的分量不一样

图注意力网络 GAT 引入注意力机制，核心思想很朴素：不同邻居对当前节点的重要性不同，聚合时应该给重要邻居更大的权重。

GCN 和 GraphSAGE 在聚合时，邻居权重要么由度数决定，要么就是等权平均。GAT 在每一层额外学习一组注意力系数，根据节点和邻居的特征算出二者的匹配程度，再对所有邻居的注意力系数做归一化，最后用这个权重加权聚合邻居特征。

对应到业主大会的比喻，GCN 是所有人都必须发言且权重相同，GraphSAGE 是从邻居里随机抽几个人发言，GAT 则是精准知道谁说话分量重，重点听关键邻居的意见。

GAT 比较适合节点度数差异大、或图结构噪声比较多、需要模型自己判断哪些邻居可用的场景。代价是多头注意力让参数变多，训练速度变慢，对小图而言优势并不明显。我试过一个只有几百个节点的场景，GAT 和 GCN 结果几乎持平，但训练时间翻了一倍。

三种模型的选择建议可以参考下表：

4. 实操记录：从零搭一个节点分类Demo

4.1 数据准备：小图也有大学问

我建议第一次跑 GNN 不要追求大数据集，用一个中等规模的引文网络小图最合适。我当时用的模拟项目X，节点数大约 2700，边数约 5400，每个节点有 1400 多维的稀疏特征，标签 7 类。这种规模用一台普通配置的机器跑 CPU 就能在几分钟内完成一次训练，非常适合反复调参。

数据准备阶段有三个细节容易踩坑。一是特征归一化，很多节点特征直接是词频或计数，数值跨度很大，不做归一化会导致第一层线性变换把数值推到饱和区。二是训练、验证、测试集的划分方式，必须用固定的 mask 按节点划分，而且划分比例通常要保证验证集和测试集各有几百个样本才够稳定。三是标签不能泄漏到特征里，比如你用某个节点的类别作为它的输入特征，那模型什么都不学也能“预测”很准，这种低级错误会让后续调试彻底失去意义。

4.2 模型主体代码与训练配置

以下是一个极简 GCN 实现的示意代码，我用它做过模拟项目X 的基线，比直接调框架自带层更容易理解内部运算逻辑：

import torch import torch.nn as nn import torch.nn.functional as F class SimpleGCNLayer(nn.Module): def __init__(self, in_dim, out_dim): super().__init__() self.linear = nn.Linear(in_dim, out_dim) # 这里不再额外做归一化，要求输入的 adj_norm 已经预处理完成 def forward(self, x, adj_norm): h = self.linear(x) # 特征线性变换 h = torch.mm(adj_norm, h) # 邻域聚合 return h class TwoLayerGCN(nn.Module): def __init__(self, in_dim, hidden_dim, num_classes, dropout=0.5): super().__init__() self.layer1 = SimpleGCNLayer(in_dim, hidden_dim) self.layer2 = SimpleGCNLayer(hidden_dim, num_classes) self.dropout = nn.Dropout(dropout) def forward(self, x, adj_norm): h = F.relu(self.layer1(x, adj_norm)) h = self.dropout(h) h = self.layer2(h, adj_norm) return h

使用前要预处理邻接矩阵：加自环、计算度矩阵、做对称归一化。这一步可以提前算好，训练循环里只需要做矩阵乘法，非常省事。模型的输入是节点特征矩阵和归一化后的邻接矩阵，输出是每个节点的分类 logits。

训练配置我一般这么设：优化器用 Adam，学习率 0.01，权值衰减 5e-4，隐藏层维度 16，dropout 0.5，训练 200 个 epoch。这些值不是拍脑袋定的，它们来自一个常见的开源图神经网络基线配置，适用于中小规模引文图。层数先固定两层，不要一上来就堆深度。

损失函数用交叉熵损失，但只对训练集 mask 对应的节点计算损失。PyTorch 里可以直接用 mask 索引 logits 和标签：

model = TwoLayerGCN(in_dim=features.shape[1], hidden_dim=16, num_classes=7) optimizer = torch.optim.Adam(model.parameters(), lr=0.01, weight_decay=5e-4) criterion = nn.CrossEntropyLoss() for epoch in range(200): model.train() optimizer.zero_grad() logits = model(features, adj_norm) loss = criterion(logits[train_mask], labels[train_mask]) loss.backward() optimizer.step() if epoch % 20 == 0: model.eval() with torch.no_grad(): val_logits = model(features, adj_norm) val_loss = criterion(val_logits[val_mask], labels[val_mask]) print(f"epoch {epoch}, train_loss {loss.item():.4f}, val_loss {val_loss.item():.4f}")

4.3 训练完成后必做的三个检查

跑完训练只是第一步，我会再做三个检查。

第一个是看 loss 曲线。正常情况训练 loss 和验证 loss 都平稳下降，如果验证 loss 从头到尾几乎不动，优先怀疑学习率太大，或者特征没有归一化。如果有 loss 突变成 NaN 的情况，九成是邻接矩阵没有归一化，数值膨胀导致梯度爆炸。

第二个是检查节点表示是否过平滑。取最后一层输出的隐藏表示，随机抽 100 个节点，计算它们两两之间的余弦相似度。理想状态是同类别节点相似度明显高于不同类别，如果所有节点的相似度都接近 1，说明模型已经退化，每层聚合让所有节点变得一模一样。出现这种情况要减少层数，或者给每层输出之间加残差连接。

第三个是随机种子实验。同一个模型换一个随机种子跑五次，记录测试集准确率的波动范围。如果方差超过两个百分点，说明训练本身不够稳定，可能是数据划分不合理或采样太少，先解决稳定性再谈提高准确率。

5. 踩坑实录：训练GNN最常见的五个问题

5.1 过平滑：层数一深，节点都长一个样

过平滑是我在 GNN 里遇到最多的坑之一。原理很简单：消息传递每迭代一轮，节点的表示就会和邻居更接近。层数足够多，所有节点表示趋同，就像全班同学长期互相模仿，最后失去个人特征。

节点分类任务通常不需要很深的网络，两层一般够用，三层是上限。如果确实需要更大的感受野，不要直接堆层，改用残差连接把浅层输出加到深层输出上，或者用跳跃式连接，把每一层的表示拼接到最后的分类层里。理论上可以缓解信息丢失，实际操作里效果比盲目加深要好得多。

另一个技巧是用 dropout 加在每层输出之间，防止模型过度依赖特定邻居的特征组合。这个细节能让 GCN 跑出更平滑的验证曲线，我自己换过多个数据集都有效。

5.2 整图训练的内存爆炸：从邻居采样改起

中小规模图用整图训练没问题，但一到百万节点级别，整图前向传播会遇到显存爆炸。原因很直接：全图的中间特征和梯度全部驻留在计算图里，几百层、几百万节点的时候，显存占用会像滚雪球一样膨胀。

解决思路是打破整图计算，把节点按批处理。但 GNN 的一个麻烦是：单独把一个节点看作一个 batch，还要聚合它的邻居，邻居的邻居也要参与，层层递推下去，batch 越滚越大。这就是邻居爆炸问题。

GraphSAGE 的邻居采样就是标准解法，每层限制采样数，让计算量可控。Cluster-GCN 这类方法则把图划分成多个子图，每个 batch 只处理一个子图，内存压力更小。如果你只是想把模型跑通，我的建议是先确认数据集能否整图训练，如果能，不要过早引入采样逻辑，否则排查问题时要同时面对模型和采样两重变量。

5.3 标签泄漏：验证集准到离谱，最好警惕

我碰到过一个很诡异的情况，验证集准确率高达 98%，测试集却只有 60%。查了半天发现是 mask 生成时用了包含标签的分组逻辑，导致同一条边连接的两个节点被同时分到训练集和验证集。模型在训练时看到了验证集节点的邻居信息，验证集准确率自然虚高。

GNN 的标签泄漏比普通模型更隐蔽，因为节点之间的关联本身会传递信息。划分数据时要确认训练集、验证集和测试集严格不交叉，尤其注意那些有边直接相连的节点。安全的做法是先生成一个全图级的 mask，把节点按照 6:2:2 随机划分，再检查三个集合之间是否还有边存在。如果边很多，可以考虑基于边的划分方式，或者用时间切分，比如引文预测里按发表年份划分，避免未来信息泄漏到过去。

5.4 有向图的传播陷阱

不少现实图是有向的，比如网页链接、邮件收发、关注关系。很多人直接拿带箭头的边当成无向边处理，等于把 A 指向 B 和 B 指向 A 混为一谈，信息传播方向全乱了。

有向图里，每个节点的邻居应该分成出边邻居和入边邻居，建模方式不同，效果差异很大。具体到代码，邻接矩阵不再是对称的，聚合时要明确是按出方向还是入方向。另一个容易踩的坑是自环要不要加。无向图加自环很自然，节点自己能感知自己；有向图如果一条边都没有自环，某些节点可能完全无法感知任何邻居信息。把自环补上，或者把有向边做成双向传播，都是常用的处理手段，但要想清楚语义是否允许。

5.5 特征质量永远比模型结构更重要

这是我想强调的一点：很多人把大量时间花在换模型结构上，却忽视了输入特征本身。GNN 再强大，也是从特征和图结构中提取信号。节点特征全是无关噪声，邻接矩阵稀疏到几乎没有边，什么模型都救不回来。

我踩过的真实教训是：特征里混入了大量缺失值之后，用均值填充和不做填充，模型准确率差出好几个点。另一个典型问题是极度不平衡的标签分布，比如正例只占千分之一，直接训练出的模型会倾向把所有节点预测成负例。

遇到这种情况，先做特征工程。对连续特征做标准化，离散特征做 embedding，处理缺失值，再考虑类别不平衡的采样策略。节点特征质量提升带来的收益，往往比把 GCN 换成 GAT 更明显。

如果你现在正在准备入坑 GNN，我给的建议只有三条：别一上来就堆模型复杂度，用一个小图把消息传递的每一行计算在纸上推一遍；训练调试时盯住 loss 和嵌入的分布，而不是只盯准确率；最后，特征工程和图结构预处理的重要性，在 GNN 里和模型设计一样高。我踩过最多的坑，不是模型不收敛，而是数据划分和图构造本身出了问题。希望这篇概述能帮你把这层窗户纸捅破。