139.时间嵌入+残差UNet｜DDPM噪声预测网络核心架构解析

摘要

扩散模型（Diffusion Models）是当前生成式AI领域最前沿的技术之一，在图像生成、音频合成、分子设计等任务中展现出超越GAN和VAE的生成质量。本文从数学原理出发，系统讲解扩散模型的前向扩散过程与逆向去噪过程，推导核心损失函数，并提供一个完整可运行的PyTorch实现。代码包含详细注释，可直接训练并在MNIST数据集上生成手写数字。文章还总结了训练不稳定、采样速度慢等常见问题的解决方案，帮助读者从理论到实践全面掌握扩散模型。

应用场景

扩散模型的核心能力是从噪声中逐步恢复数据分布，适用于以下典型场景：

• 图像生成：无条件生成高分辨率图片，如DALL-E 2、Stable Diffusion的底层基础。
• 图像修复与超分辨率：通过条件扩散模型，在已知区域约束下补全缺失像素或提升分辨率。
• 音频生成：WaveGrad等模型将扩散过程应用于音频波形生成。
• 分子构象生成：在化学领域生成符合物理约束的分子三维结构。
• 时序数据填补：金融、医疗等领域缺失值的概率性生成。

核心原理

扩散模型包含两个核心过程：

1. 前向扩散过程（Forward Process）

给定原始数据分布 x0 ~ q(x)，我们定义一个马尔可夫链，逐步向数据添加高斯噪声，经过 T 步后数据完全退化为标准正态分布。每一步的转移概率为：

q(xt | xt-1) = N(xt; s