简介本资源为基于去噪扩散模型的概率时空图预测算法设计源码面向从事时空数据建模、时间序列分析与概率预测的研究者和开发者可用于交通流量、疾病传播、金融时序等动态场景的预测实验。压缩包共22个文件约72.35MB以9个Python源文件为核心覆盖数据处理、模型构建、训练与评估流程另含4个XML配置、2个numpy数组数据、2个Git忽略文件及许可协议、说明文档与示意图便于快速搭建实验环境并复现算法。项目围绕去噪扩散机制与概率图预测展开包含DiffSTG、UGNet等模型模块及图算法、数据集加载、训练脚本等目录结构读者可据此理解扩散模型在时空图上的建模思路掌握从数据预处理到结果评估的完整链路并在此基础上进行参数调优与二次开发。目前已有332人学习下载适合具备一定Python与深度学习基础、希望深入概率时空预测方向的中高级读者参考。1. 概率时空图预测遇上去噪扩散模型这套源码能解决什么交通流量预测、空气质量监测、疾病传播模拟这些场景的数据都有一个共同特征既在时间维度上演化又在空间维度上相互影响。传统时序模型只盯一条曲线图神经网络只建模空间邻接两者拼接起来做预测时往往只能给出一个点估计——说白了就是告诉你「明天早上8点这段路大概堵」但不告诉你「有多大概率堵、堵成什么样」。基于去噪扩散模型的概率时空图预测算法解决的正是这个问题它把扩散模型DDPM的加噪-去噪机制搬到时空图上输出的是未来一段时间的概率分布而不是一个干巴巴的数值。这套源码DiffSTG包含9个Python源文件、2个numpy数据文件覆盖了从数据加载、图结构构建、扩散过程建模到训练评估的完整链路适合做交通流预测、空气质量预测方向的研究生和算法工程师直接上手复现或二次开发。2. DiffSTG 源码结构拆解从 train.py 到 ugnet.py 的数据流拿到一个源码包我习惯先看目录结构再决定从哪个文件切入。这套代码的入口很清晰train.py负责训练循环model/目录下是核心网络定义algorithm/目录放图算法和数据集处理utils/是辅助工具。下面按数据流顺序拆一遍。2.1 数据加载与图结构构建dataset.py 和 graph_algo.pyalgorithm/dataset.py是数据管道的第一站。它负责读取data/目录下的numpy数组文件PEMS08 和 AIR_GZ 两个数据集把它们切成训练/验证/测试集并生成模型需要的滑动窗口样本。时空预测任务里输入通常是过去12个时间步的图信号输出是未来12个时间步的预测值。# algorithm/dataset.py 核心逻辑示意 import numpy as np import torch from torch.utils.data import Dataset class STGraphDataset(Dataset): def __init__(self, data_path, input_len12, output_len12): # data: shape (T, N, C) — T时间步, N节点数, C特征通道 self.data np.load(data_path) # 加载numpy数组文件 self.input_len input_len # 历史窗口长度默认12步 self.output_len output_len # 预测窗口长度默认12步 def __len__(self): return len(self.data) - self.input_len - self.output_len 1 def __getitem__(self, idx): x self.data[idx : idx self.input_len] # 历史观测 y self.data[idx self.input_len : idx self.input_len self.output_len] # 未来真值 return torch.FloatTensor(x), torch.FloatTensor(y)这里有两个参数值得注意input_len和output_len。PEMS08 数据集常用 12→12 的设定即用过去1小时预测未来1小时5分钟一个采样点AIR_GZ 的采样频率不同可能需要调整。如果你换成自己的数据第一步就是确认时间步粒度和窗口长度是否匹配。algorithm/graph_algo.py负责构建空间邻接矩阵。交通数据通常用距离阈值或高斯核来定义节点间的连通性空气质量数据则可能用地理距离加风向信息。这个文件里的邻接矩阵会作为 GNN 的输入决定了信息在空间维度上怎么传播。# algorithm/graph_algo.py 核心逻辑示意 import numpy as np def build_adjacency(dist_matrix, threshold0.1, sigma1.0): dist_matrix: (N, N) 节点间距离矩阵 threshold: 距离阈值超过则视为不连通 sigma: 高斯核带宽参数 adj np.exp(-dist_matrix ** 2 / sigma ** 2) # 高斯核加权 adj[adj threshold] 0 # 稀疏化 adj np.maximum(adj, adj.T) # 对称化 return adjthreshold和sigma是两个关键超参。阈值太大图会太稠密计算量飙升太小则图断裂空间信息传不过去。我一般会先画一下邻接矩阵的稀疏度分布确保平均度数在 515 之间比较合理。2.2 扩散过程与去噪网络model.py 和 ugnet.pymodel/diffstg/model.py定义了整个扩散框架的调度逻辑包括前向加噪过程forward diffusion和反向去噪过程reverse diffusion。DDPM 的核心思想是对真实数据逐步加高斯噪声直到变成纯噪声然后训练一个网络从噪声中逐步恢复数据。在时空预测场景下条件信息历史观测会被注入去噪网络引导生成过程朝着正确的未来状态走。# model/diffstg/model.py 扩散调度核心示意 import torch import torch.nn as nn class DiffSTG(nn.Module): def __init__(self, denoise_fn, num_timesteps1000, beta_start1e-4, beta_end0.02): super().__init__() self.denoise_fn denoise_fn # 去噪网络通常是UGNet self.num_timesteps num_timesteps # 线性噪声调度 self.betas torch.linspace(beta_start, beta_end, num_timesteps) self.alphas 1.0 - self.betas self.alpha_bars torch.cumprod(self.alphas, dim0) # 累积乘积 def forward(self, x_0, condition, t): 训练时的前向过程对x_0加噪让网络预测噪声 noise torch.randn_like(x_0) alpha_bar_t self.alpha_bars[t].view(-1, 1, 1, 1) x_t torch.sqrt(alpha_bar_t) * x_0 torch.sqrt(1 - alpha_bar_t) * noise noise_pred self.denoise_fn(x_t, condition, t) # 条件注入 return noise_pred, noisenum_timesteps1000是 DDPM 的标准设定beta_start和beta_end控制噪声调度的范围。这两个参数直接影响生成质量beta_end 太小前向过程加噪不够反向去噪学不到东西太大则训练不稳定。源码里用的是线性调度如果你追求更好的效果可以换成余弦调度cosine schedule这是近两年扩散模型社区比较推荐的改进。model/diffstg/ugnet.py是去噪网络的骨干。UGNet 结合了图卷积GCN和时序卷积TCN前者捕捉空间依赖后者捕捉时间依赖。条件信息通过 cross-attention 或简单的 concat 方式注入。这个文件是整个源码里最值得细读的部分因为它决定了模型能学到多复杂的时空模式。2.3 训练入口与评估train.py 和 eval.pytrain.py是训练的主循环。它做的事情很标准加载数据 → 构建模型 → 定义优化器和损失函数 → 迭代训练 → 保存checkpoint。损失函数就是简单的 MSE预测噪声和真实噪声之间的均方误差这是 DDPM 的标准做法。# 训练启动命令示意具体参数以readme.txt为准 python train.py \ --dataset PEMS08 \ --input_len 12 \ --output_len 12 \ --batch_size 16 \ --epochs 200 \ --lr 1e-3 \ --num_timesteps 1000 \ --gpu 0batch_size和lr是最需要调的。扩散模型的训练比普通回归模型慢因为每个样本要随机采样一个时间步 t 来计算损失。如果显存不够优先降 batch_size别降 num_timesteps——后者会影响生成质量。eval.py负责在测试集上评估。概率预测的评估指标和点预测不同除了 MAE、RMSE 这些常规指标还会看 CRPS连续排序概率得分或生成样本的分布覆盖情况。源码里具体用了哪些指标建议直接看 eval.py 的实现。3. 跑通训练与推理环境配置、参数调优与结果验证3.1 环境依赖与最小可运行配置这套代码基于 PyTorch依赖不算复杂。我一般会先建一个干净的虚拟环境然后按需装包。# 创建虚拟环境 python -m venv diffstg_env source diffstg_env/bin/activate # Windows用 diffstg_env\Scripts\activate # 核心依赖 pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118 pip install numpy scipy pandas matplotlib pip install torch-geometric # 如果ugnet.py用到了GCN层torch-geometric是否必须取决于ugnet.py里图卷积的实现方式。如果作者手写了 GCN那就不需要额外装。建议先pip install基础包跑一下train.py报什么错补什么。.idea/目录是 IntelliJ 的项目配置用 PyCharm 打开的话可以直接识别。如果你用 VSCode忽略这个目录就行不影响运行。3.2 关键超参怎么调从 num_timesteps 到学习率扩散模型的超参比普通网络多一层因为多了扩散过程本身的参数。下面这张表是我在实际跑 PEMS08 时总结的经验值范围参数建议范围作用调参方向num_timesteps5001000扩散步数越大生成质量越好但训练越慢beta_start1e-41e-5初始噪声方差太大会破坏早期信号beta_end0.010.02最终噪声方差太小则前向过程不充分lr5e-42e-3学习率扩散模型对lr敏感建议从1e-3起调batch_size832批大小受显存限制优先保证训练稳定input_len12历史窗口根据数据采样频率调整output_len12预测窗口同上一个血泪经验扩散模型的 loss 曲线不像普通回归那样平滑下降它会有波动。不要看到 loss 震荡就以为训练崩了关键看验证集上的生成指标是否在改善。我一般会每 20 个 epoch 跑一次 eval看 CRPS 或 RMSE 的趋势。3.3 推理与概率输出怎么从噪声里采样出预测分布训练完之后推理阶段是从纯噪声出发逐步去噪生成预测样本。由于每次采样都有随机性你可以生成多个样本用它们的均值和方差来表示预测的不确定性。# 推理采样示意 torch.no_grad() def sample(model, condition, num_samples50): 从扩散模型中采样多个未来轨迹 samples [] for _ in range(num_samples): x_t torch.randn_like(condition[:, :model.output_len]) # 纯噪声起步 for t in reversed(range(model.num_timesteps)): noise_pred model.denoise_fn(x_t, condition, t) # 反向去噪一步 alpha_t model.alphas[t] alpha_bar_t model.alpha_bars[t] x_t (x_t - (1 - alpha_t) / torch.sqrt(1 - alpha_bar_t) * noise_pred) / torch.sqrt(alpha_t) if t 0: x_t torch.sqrt(model.betas[t]) * torch.randn_like(x_t) samples.append(x_t) samples torch.stack(samples) # (num_samples, output_len, N, C) mean_pred samples.mean(dim0) # 点预测 std_pred samples.std(dim0) # 不确定性估计 return mean_pred, std_prednum_samples决定了概率分布的精细程度。50 个样本通常够用如果要做极端事件分析比如预测拥堵概率可以加到 100200。注意采样过程是串行的1000 步逐步去噪会比较慢实际部署时可以考虑 DDIM 加速采样把步数降到 50100 步。4. 避坑与排查跑 DiffSTG 时最容易翻车的五个地方4.1 显存爆炸不是模型太大是中间变量没释放现象训练第一个 epoch 就 OOM但模型参数量看起来并不大。原因扩散模型在计算 loss 时前向加噪和反向去噪的中间变量都会保留在计算图里。如果num_timesteps设得大且没有用 gradient checkpointing显存占用会远超预期。解决优先降 batch_size 到 8 甚至 4在model.py里对去噪网络加torch.utils.checkpoint确认没有在循环里累积不需要的 tensor。4.2 邻接矩阵全零或全稠密图结构构建的阈值陷阱现象训练 loss 不下降或者空间注意力权重全是均匀分布。原因graph_algo.py里的距离阈值设得不合理。阈值太小导致邻接矩阵几乎全零GCN 退化成孤立节点阈值太大则图太稠密空间信息被平均化。解决打印邻接矩阵的稀疏度和度数分布确保平均度数在 515 之间。PEMS08 这种传感器网络通常用高斯核加 top-k 稀疏化效果比较稳。4.3 训练 loss 震荡不收敛学习率和噪声调度的联合影响现象loss 曲线剧烈震荡验证指标不升反降。原因扩散模型的 loss 本身就有随机性每个样本随机采时间步 t如果学习率再设大了两者叠加就会导致训练不稳定。解决把 lr 降到 5e-4 甚至 1e-4加 warmup前 10 个 epoch 线性升温同时检查beta_end是否过大。我一般会先用小 lr 跑 50 个 epoch 看趋势确认稳定后再考虑加速。4.4 推理结果全是均值采样步数不够或噪声调度有问题现象生成的多个样本几乎一样方差接近零概率预测退化成点预测。原因反向去噪过程中如果beta调度不合理比如 beta_end 太小最后几步的噪声注入不足样本多样性就消失了。解决检查beta_start和beta_end是否覆盖了合理的噪声范围尝试余弦调度确认采样时每一步都正确注入了随机噪声t 0时的randn_like。4.5 数据格式不匹配numpy 数组的 shape 和归一化现象模型能跑但预测结果离谱或者 dataloader 报 shape 错误。原因data/目录下的 numpy 文件 shape 可能是(T, N)或(T, N, C)代码里默认的维度顺序不一定匹配。另外时空数据通常需要做 z-score 归一化如果忘了这步扩散过程的噪声尺度会和数据尺度不匹配。解决先np.load看一下 shape 和数值范围确认和dataset.py里的假设一致归一化建议在 dataset 里做均值和方差从训练集算别用全量数据。5. 进阶技巧用 DDIM 加速采样并验证概率校准跑通基础训练之后最影响体验的就是采样速度。标准 DDPM 要 1000 步串行去噪生成 50 个样本就是 50000 次网络前向推理时间很难接受。DDIMDenoising Diffusion Implicit Models的思路是把反向过程改成非马尔可夫形式可以用更少的步数跳着采样通常 50100 步就能达到接近的质量。# DDIM 加速采样示意 torch.no_grad() def ddim_sample(model, condition, num_steps50, eta0.0): DDIM采样num_steps远小于num_timesteps step_ratio model.num_timesteps // num_steps timesteps (torch.arange(0, num_steps) * step_ratio).long().flip(0) x_t torch.randn_like(condition[:, :model.output_len]) for i, t in enumerate(timesteps): t_prev timesteps[i 1] if i 1 len(timesteps) else torch.tensor(0) noise_pred model.denoise_fn(x_t, condition, t) alpha_bar_t model.alpha_bars[t] alpha_bar_prev model.alpha_bars[t_prev] # DDIM 确定性更新eta0时完全确定 x_0_pred (x_t - torch.sqrt(1 - alpha_bar_t) * noise_pred) / torch.sqrt(alpha_bar_t) x_t torch.sqrt(alpha_bar_prev) * x_0_pred torch.sqrt(1 - alpha_bar_prev) * noise_pred if eta 0: x_t eta * torch.sqrt((1 - alpha_bar_prev) / (1 - alpha_bar_t)) * torch.randn_like(x_t) return x_teta0时 DDIM 完全确定同样的条件输入生成同样的结果eta1时退化成 DDPM 的随机采样。实际用的时候我一般设eta0.2左右在确定性和多样性之间取个平衡。num_steps50通常够用如果发现生成质量下降明显加到 100。另一个值得做的验证是概率校准。概率预测的核心价值在于「说 80% 概率会发生的事最好真的有 80% 发生」。你可以把预测分布的分位数和实际观测做对比如果预测的 90% 置信区间只覆盖了 70% 的真实值说明模型过度自信了。这个检查在eval.py的基础上加几行就能做但对判断模型能不能真正落地至关重要。从那以后我每次拿到扩散模型的源码都会先跑一遍 DDIM 采样确认推理链路通畅再回头调训练超参。希望帮到你。本文还有配套的精品资源点击获取
