动态图与时序图

概述

静态图假设图结构在训练和推理期间恒定，但现实中的图时时刻刻在演化——新节点出现、旧边消失、交互模式随时间漂移。动态图与时序图要解决的核心问题是：如何在时间维度上建模图结构的演化，并将其融入图神经网络的训练与推理流程。

1. 静态图为什么不够

1.1 静态 GNN 的局限

标准 GNN（如 GCN、GAT、GraphSAGE）的消息传递框架可以写为：

其中是固定的邻域集合。这一公式假设：

节点集合是固定的
边集合是固定的
邻居关系不随时间变化

当图结构本身是演化的时候，这一假设立即失效。

1.2 静态图面对的三类问题

问题类型	场景描述	静态图的响应
结构演化	社交网络中用户建立新关系、交易网络中产生新边	邻接矩阵是动态的，静态 GNN 无法处理”未来边”或”消失边”
特征漂移	用户行为向量随时间变化，节点属性不再是独立同分布	节点特征分布随时间变化，静态训练集无法泛化
时间依赖	第时刻的交易影响第时刻的决策	边不是同等重要的，时间上接近的边携带更多相关信息

1.3 静态图丢失了什么

以金融交易网络为例：节点和在时刻有一笔交易，在时刻有另一笔交易。如果将这两笔交易合并到静态图中，静态 GNN 只能看到两个节点之间存在边，无法区分：

这是同一关系的重复交互
还是完全不同时间尺度的事件
还是高频短期 vs 低频长期的交易模式

时间信息丢失意味着模型无法学习”最近的行为模式”vs”历史积累的行为模式”，也无法区分”偶发事件”和”趋势性变化”。

2. 动态图的形式化建模

2.1 事件序列表示

动态图的核心建模方式是将图结构的变化表示为事件序列。一个动态图可以定义为：

其中：

表示节点在时刻的状态
表示另一节点在相同时刻的状态
表示两节点之间在时刻发生的事件（如边创建、边删除、属性更新）

也可以写作时间戳边的形式：

为 时 间 间 隔

其中用于刻画事件的时间距离。

2.2 时间编码

为了将时间信息嵌入神经网络，需要对时间戳进行编码。常见的时间编码方式包括：

连续时间编码（Continuous Time Encoding）：

通过不同频率的正弦/余弦函数将时间戳映射到高维连续向量，使模型能够感知时间的相对距离。

时间窗口编码：

将时间戳映射到特定时间窗口的特征，捕捉局部时序模式。

时序记忆的作用：时序记忆（Temporal Memory）机制用于在每个时间步维护节点的状态：

时序记忆使得节点能够”记住”历史状态，并根据新到来的事件进行更新。

2.3 时序依赖如何进入消息传递

将时间信息融入 GNN 消息传递的标准方式是时间感知的消息函数：

其中表示事件发生的时间间隔。消息传递变为：

权重可以是：

指数衰减：，强调近期事件
注意力机制：，让模型学习时间依赖的权重

3. 核心问题：时间泄漏

3.1 什么是时间泄漏

时间泄漏（Temporal Leakage） 是指在训练、验证或测试阶段，模型错误地使用了”未来”的信息来预测”过去”的事件。具体来说：

当按时间顺序切分数据集时，测试集的时间戳早于训练集的时间戳
如果模型在训练时学习到了测试集中的模式（即训练数据中混入了未来信息），则模型实际上是在”作弊”
这导致评估指标虚高，实际部署时性能大幅下降

3.2 时间泄漏为什么危险

时间泄漏的危险在于它不违反数据的随机性假设，但违反了时间因果性假设。

在标准监督学习中，我们假设样本独立同分布（i.i.d.），因此可以随机划分数据集。但在时序图中：

第时刻的图结构是第时刻结构的后续状态
图的演化具有因果依赖性
用”未来”训练的模型预测”过去”，本质上是在用结果预测原因

举例：假设我们用到的数据训练模型，到的数据测试。如果模型在训练时接触到时刻的边包含了时刻才出现的信息（由于数据收集或划分的疏忽），模型在测试时就会表现得”过于好”，但实际应用中不可能有这样的信息。

3.3 时间泄漏的典型形式

泄漏形式	描述	后果
数据收集泄漏	数据收集过程中，未来事件的信息被混入历史记录	训练集包含了本不存在的”知识”
时间边界模糊	相邻时间段的数据有重叠或边界处理不当	训练集和测试集有信息交集
特征泄漏	节点的某些特征在收集时已经包含了未来信息	模型”看到”了本不该看到的结果
跨时刻状态泄漏	在处理时刻的节点状态时，使用了时刻才确定的状态	循环引用导致信息泄漏

4. 动态图的训练方式

4.1 数据按时间切分

动态图数据的切分必须遵循时间顺序，通常分为三个部分：

训练集 ：包含最早时间段的数据，模型从中学习时间依赖的图演化模式。

验证集 ：用于调参，必须严格在训练集的时间范围之后。

测试集 ：用于最终评估，同样严格在验证集之后。

4.2 时间一致的训练/验证/测试

时间一致性训练要求：

在每个训练批次中，模型只能看到时刻及之前的信息
图的快照（Snapshot）按时间顺序生成
消息传递只能跨越时间向前的边

时间窗口滑动策略：

定义时间窗口，窗口内的事件构成输入图
在窗口内进行消息传递，生成节点表示
用节点表示预测窗口之后的某个目标（如的边）
滑动窗口到下一个时间步

数学上：

4.3 增量更新与离线训练的差异

维度	增量更新（Online Update）	离线训练（Offline Training）
更新频率	每个新事件到达时立即更新	周期性批量重新训练
状态维护	维护节点的时序记忆状态	无状态，每次从历史数据重新计算
计算成本	低，单次更新只需处理新事件涉及的节点	高，需要重新处理全部历史数据
模型新鲜度	高，总是用最新事件更新	低，模型可能滞后于最新图结构
适用场景	实时系统，如金融欺诈检测、推荐系统	离线分析，如研究图演化规律
技术挑战	需要高效更新算法避免重复计算	需要处理大规模历史数据

4.4 在线图更新如何维护状态

在线更新时，每个节点维护一个时序状态向量，当新事件到达时：

事件接收：新事件到达
状态检索：获取和的当前时序状态和
消息计算：计算新事件带来的消息
状态更新：使用 GRU/LSTM 等循环结构更新状态

其中是更新门，决定多少旧状态被保留，多少新信息被纳入。

5. 典型应用场景

5.1 动态社交图

场景：社交网络中的用户交互（点赞、评论、转发、添加好友）随时间演化。

特点：

边的创建频率高，删除（取消关注）相对少
交互模式有日内周期性和长期趋势性
节点（用户）的活跃度随时间变化

建模要点：使用事件序列表示交互，用时间编码捕捉周期性，用注意力机制区分重要关系。

5.2 动态交易图

场景：金融交易网络中账户之间的资金流动。

特点：

边的权重（交易金额）随时间变化
欺诈检测要求实时性
异常模式可能在短时间内出现大量边

建模要点：边的权重作为特征，时间窗口内的交易频率作为异常检测信号。

5.3 动态推荐图

场景：用户-物品交互图随用户行为不断演化。

特点：

新用户和新物品随时出现
用户兴趣随时间漂移
需要平衡短期兴趣和长期偏好

建模要点：时序记忆捕捉用户兴趣演化，协同过滤与内容推荐结合。

5.4 事件图

场景：基础设施网络（如网络、金融、交通）中故障/事件随时间传播。

特点：

事件有明确的因果传播链
早期检测是关键目标
图结构相对稳定，但事件触发特殊的边激活

建模要点：将事件视为”激活边”，用时间敏感的传播模型预测事件扩散。

6. 记忆机制与动态图的关系

6.1 为什么动态图需要记忆

静态 GNN 每一次前向传播都基于相同的图结构，没有”记忆”之前状态的能力。但动态图中：

同一个节点在不同时刻可能有完全不同的邻域
节点的状态取决于历史事件序列，而非当前快照
需要在时间维度上保持节点状态的连续性

6.2 记忆机制的类型

外部记忆（External Memory）：为每个节点维护一个记忆向量，在每个时间步根据新事件更新。

优点：显式存储历史信息，可解释性强。

缺点：内存消耗大，处理大规模图时成本高。

隐式记忆（Implicit Memory）：通过循环神经网络（RNN/LSTM/GRU）在节点表示中隐式编码历史信息。

优点：参数效率高，不需要额外存储。

缺点：长期依赖可能衰减，信息可能被稀释。

6.3 记忆与时序依赖的结合

记忆机制使得模型能够建模复杂的时序依赖：

短期依赖：通过最近的事件更新记忆
长期依赖：通过记忆的累积效应保留历史模式
周期性依赖：通过记忆中的周期性模式检测规律

7. 动态图建模方法对比

方法	时间建模方式	消息传递	适用场景	优点	缺点
JODIE	嵌入时间戳边	时间感知的递归更新	交互网络	显式建模时间间隔	难以处理高并发事件
TGN	时序记忆 + 时间编码	内存增强的消息传递	动态社交/交易图	高效处理大规模动态图	内存消耗较大
DySAT	自注意力 + 时间编码	时序注意力消息传递	动态图表示学习	捕获多种时序模式	计算复杂度高
EvolveGCN	RNN 更新 GNN 参数	参数随时间演化	图结构演化的分类任务	参数自然演化	参数量大
GCRN	谱域时序建模	循环图卷积	时序图预测	理论上严谨	难以扩展到大规模图
StreamGNN	流式消息传递	在线增量更新	实时系统	低延迟更新	模型新鲜度受限

8. 时序图训练注意事项

8.1 数据划分的根本原则

永远不要让训练集的时间戳大于测试集的时间戳。

这是时序图训练的第一原则。违反这一原则意味着模型在”用未来预测过去”，评估结果毫无意义。

8.2 时间边界的一致性

确保每个数据集（训练/验证/测试）的时间边界严格递增：

训练集最大时间 < 验证集最小时间
验证集最大时间 < 测试集最小时间

8.3 时间窗口的选择

时间窗口的选择需要权衡：

窗口太短：无法捕获长期依赖，模型只能看到近期模式
窗口太长：计算成本增加，可能引入过多噪声，弱化时间信息的价值

通常需要根据数据特性（如事件频率、依赖周期）通过验证集调优。

8.4 避免特征泄漏

检查以下问题：

节点的某些特征是否在数据收集时已经隐含了未来信息
边的属性是否包含了时间戳之后的观测结果
邻域聚合时是否无意中包含了未来邻居

8.5 处理冷启动问题

动态图中新节点不断出现，这些节点可能：

没有历史记录（完全冷启动）
只有少量近期记录（部分冷启动）

常用策略：

使用全局平均或默认嵌入
从新节点的邻域信息传播
用时间窗口内的统计信息作为特征

8.6 评估指标的时间一致性

选择评估指标时，确保指标本身不会引入时间泄漏：

用滑动窗口预测的方式评估：预测时刻时只使用时刻及之前的信息
用分时间段累积的指标代替简单平均，避免近期性能掩盖长期性能下降

9. 小结

动态图与时序图建模的核心挑战来自三个方面：

结构演化：图结构本身随时间变化，静态邻接矩阵不再适用
时间依赖：事件之间有时序因果关系，需要专门建模
信息泄漏：错误的时空划分会导致模型”偷看”未来，造成虚假的评估结果

解决这三个问题的关键在于：

用事件序列或时间戳边表示动态图结构
用时间编码和时序记忆将时间信息注入消息传递
用严格的时间递增方式划分数据集
用增量更新或定期重训练的方式维护模型的时效性

动态图建模不是对静态 GNN 的简单扩展，而是需要重新思考图数据的时间维度建模方式。每一步设计——从数据表示到模型架构，从训练策略到评估方法——都必须将时间的因果性作为核心约束。

Huajishe Notes

Explorer

9-动态图与时序图