论文链接：Denoising Diffusion Probabilistic Models。

Diffusion Model 分为两部分，前向扩散过程和后向生成过程，前向扩散过程从一张原始图像逐步加噪声变为一张纯噪声图像，后向生成过程则从随机噪声来逐步恢复出原图像。

贝叶斯公式角度

这里的符号${\mathbf{X}}_T$表示经过$\mathbf{T}$步生成的纯噪声图像，${\mathbf{X}}_0$表示原始图像，${\mathbf{Z}}_t$表示 $t$ 时刻随机采样的高斯噪声。设我们有系数${\alpha }_t$和${\beta }_t$，其中满足关系${\alpha }_t+{\beta }_t=1$，生成过程可以表示为：
$$\begin{array}{rl}{\mathbf{X}}_t& =\sqrt{{\alpha }_t}{\mathbf{X}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{Z}}_t\\ {\mathbf{X}}_{t-1}& =\sqrt{{\alpha }_{t-1}}{\mathbf{X}}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{\mathbf{Z}}_{t-1}\\ ...& \end{array}$$将上面的两个公式联合求解消除${\mathbf{X}}_{t-1}$：
$$\begin{array}{rl}{\mathbf{X}}_t& =\sqrt{{\alpha }_t}(\sqrt{{\alpha }_{t-1}}{\mathbf{X}}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{\mathbf{Z}}_{t-1})+\sqrt{1-{\alpha }_t}{\mathbf{Z}}_t\\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{\mathbf{X}}_{t-2}+\sqrt{{\alpha }_t(1-{\alpha }_{t-1})}{\mathbf{Z}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{Z}}_t\end{array}$$其中都服从标准高斯分布，即：
$$\begin{array}{rl}\mathbf{Z}& \sim \mathcal{N}(0,1)\\ \sqrt{{\alpha }_t(1-{\alpha }_{t-1})}{\mathbf{Z}}_{t-1}& \sim \mathcal{N}(0,{\alpha }_t(1-{\alpha }_{t-1}))\\ \sqrt{1-{\alpha }_t}{\mathbf{Z}}_t& \sim \mathcal{N}(0,1-{\alpha }_t)\end{array}$$根据高斯分布的相加性质，有：
$$\begin{array}{r}\sqrt{{\alpha }_t(1-{\alpha }_{t-1})}{\mathbf{Z}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{Z}}_t\sim \mathcal{N}(0,1-{\alpha }_t{\alpha }_{t-1})\end{array}$$由此可得：
$$\begin{array}{r}{\mathbf{X}}_t=\sqrt{{\alpha }_t{\alpha }_{t-1}}{\mathbf{X}}_{t-2}+\sqrt{(1-{\alpha }_t{\alpha }_{t-1})}{\bar{\mathbf{Z}}}_{t-1}\end{array}$$如果继续往下求解，我们可以得到：
$$\begin{array}{r}{\mathbf{X}}_t=\sqrt{{\bar{\alpha }}_t}{\mathbf{X}}_0+\sqrt{1-{\bar{\alpha }}_t}{\bar{\mathbf{Z}}}_1\end{array}$$其中符号
$$\begin{array}{r}{\bar{\alpha }}_t=\prod _{i=1}^t{\alpha }_i\end{array}$$由此可以看出，我们可以通过一步扩散能够生成任意时刻的噪声的图像，但我们的问题是如果从噪声图像恢复原始图像？能不能像上面一样一步生成，即求 $p({\mathbf{X}}_0|{\mathbf{X}}_t)$ ，答案显然是否定的，降低难度，我们能不能一步一步从噪声图像恢复到原始图像？即求 $p({\mathbf{X}}_{t-1}|{\mathbf{X}}_t)$ ，或许可以尝试一下，根据贝叶斯公式，有：
$$\begin{array}{r}p({\mathbf{X}}_{t-1}|{\mathbf{X}}_t)=p({\mathbf{X}}_t|{\mathbf{X}}_{t-1})\frac{p({\mathbf{X}}_t)}{p({\mathbf{X}}_{t-1})}\end{array}$$等号右边第一项我们是知道的，但分式上下的概率我们是未知的，因此我们考虑引入参数${\mathbf{X}}_0$，则等式变为：
$$\begin{array}{r}p({\mathbf{X}}_{t-1}|{\mathbf{X}}_t,{\mathbf{X}}_0)=p({\mathbf{X}}_t|{\mathbf{X}}_{t-1},{\mathbf{X}}_0)\frac{p({\mathbf{X}}_t|{\mathbf{X}}_0)}{p({\mathbf{X}}_{t-1}|{\mathbf{X}}_0)}\end{array}$$这个式子便可以用到上面推导的结论。其中
$$\begin{array}{rl}p({\mathbf{X}}_t|{\mathbf{X}}_{t-1},{\mathbf{X}}_0)& =\sqrt{{\alpha }_t}{\mathbf{X}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{Z}}_t\sim \mathcal{N}(\sqrt{{\alpha }_t}{\mathbf{X}}_{t-1},1-{\alpha }_t)\\ p({\mathbf{X}}_t|{\mathbf{X}}_0)& =\sqrt{{\bar{\alpha }}_t}{\mathbf{X}}_0+\sqrt{1-{\bar{\alpha }}_t}\bar{\mathbf{Z}}\sim \mathcal{N}(\sqrt{{\bar{\alpha }}_t}{\mathbf{X}}_0,1-{\bar{\alpha }}_t)\\ p({\mathbf{X}}_{t-1}|{\mathbf{X}}_0)& =\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{X}}_0+\sqrt{1-{\bar{\alpha }}_{t-1}}\bar{\mathbf{Z}}\sim \mathcal{N}(\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{X}}_0,1-{\bar{\alpha }}_{t-1})\end{array}$$根据高斯分布的表达式，既有：
p ( X t − 1 ∣ X t , X 0 ) ∝ e x p { − 1 2 ( ( X t − α t X t − 1 ) 2 1 − α t + ( X t − α ˉ t X 0 ) 2 1 − α ˉ t − ( X t − 1 − α ˉ t − 1 X 0 ) 2 1 − α ˉ t − 1 ) } ∝ e x p { − 1 2 ( ( α t β t + 1 1 − α ˉ t − 1 ) X t − 1 2 − ( 2 α t β t x t + 2 α ˉ t − 1 1 − α ˉ t − 1 X 0 ) X t − 1 + C ( X t , X 0 ) ) } \begin{align} p(\mathbf{X}_{t-1}|\mathbf{X}_t,\mathbf{X}_0)&\propto \mathbf{exp}\{-\frac{1}{2}\left(\frac{(\mathbf{X}_t-\sqrt{\alpha_t}\mathbf{X}_{t-1})^2}{1-\alpha_t}+\frac{(\mathbf{X}_{t}-\sqrt{\bar{\alpha}_{t}}\mathbf{X}_{0})^2}{1-\bar{\alpha}_{t}}-\frac{(\mathbf{X}_{t-1}-\sqrt{\bar{\alpha}_{t-1}}\mathbf{X}_{0})^2}{1-\bar{\alpha}_{t-1}}\right)\}\\ &\propto \mathbf{exp}\{-\frac{1}{2}\left(\left(\frac{\alpha_t}{\beta_t}+\frac{1}{1-\bar{\alpha}_{t-1}}\right)\mathbf{X}_{t-1}^2-\left(\frac{2\sqrt{\alpha_t}}{\beta_t}\mathbf{x}_t+\frac{2\sqrt{\bar{\alpha}_{t-1}}}{1-\bar{\alpha}_{t-1}}\mathbf{X}_0 \right)\mathbf{X}_{t-1}+\mathbf{C}(\mathbf{X}_t,\mathbf{X}_0) \right)\} \end{align} p(Xt−1​∣Xt​,X0​)​∝exp{−21​(1−αt​(Xt​−αt​ ​Xt−1​)2​+1−αˉt​(Xt​−αˉt​ ​X0​)2​−1−αˉt−1​(Xt−1​−αˉt−1​ ​X0​)2​)}∝exp{−21​((βt​αt​​+1−αˉt−1​1​)Xt−12​−(βt​2αt​ ​​xt​+1−αˉt−1​2αˉt−1​ ​​X0​)Xt−1​+C(Xt​,X0​))}​​高斯分布的的指数项为：
e x p { − 1 2 ( 1 σ 2 x 2 − 2 μ σ 2 x + μ 2 σ 2 ) } ， \begin{align}\mathbf{exp}\{-\frac{1}{2}\left( \frac{1}{\sigma_2}x^2-\frac{2\mu}{\sigma^2}x+\frac{\mu^2}{\sigma^2}\right)\}， \end{align} exp{−21​(σ2​1​x2−σ22μ​x+σ2μ2​)}，​​由此可以反解出对应的均值和方差，方差 $\sigma$ 中的参数都是已知的，但均值 $\mu$ 跟 ${\mathbf{X}}_0$ 和 ${\mathbf{X}}_t$ 有关系，但图 ${\mathbf{X}}_0$ 正是我们需要求解的，因此我们用一步扩散公式使用${\mathbf{X}}_t$代替${\mathbf{X}}_0$，反解得到：
$$\begin{array}{rl}{\sigma }^2& =\frac{1}{\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}}}\\ \mu & =\frac{1}{\sqrt{{\alpha }_t}}({\mathbf{X}}_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\bar{\mathbf{Z}}}_t)\end{array}$$
现在均值和方差中只有参数 ${\bar{Z}}_t$ 是未知的，因此我们需要用神经网络来进行预测。下面是算法伪代码：

仔细看伪代码，训练过程中学的是什么？学习的就是从原始图像 ${\mathbf{X}}_0$ 一步扩散得到第 $t$ 时刻加噪声图像所加的噪声 ${\bar{\mathbf{Z}}}_t$，即
$$\begin{array}{r}{\bar{\mathbf{Z}}}_t={ϵ}_{\theta }({\mathbf{X}}_t,t)={ϵ}_{\theta }(\sqrt{{\bar{\alpha }}_t}{\mathbf{X}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{Z},t)\end{array}$$训练过程如下图所示：

通过预测网络模块输入输出维度相同，使用U-net网络架构。训练时我有原始图像、以及 $t$ 步加噪声后的图像、 $t$ 步所加噪声总和（ground truth）。

在采样阶段：