用变分推断统一理解生成模型（VAE、GAN、AAE、ALI）

原文链接 | 2018-07-18 | 苏剑林

前言：我小学开始就喜欢纯数学，后来也喜欢上物理，还学习过一段时间的理论物理，直到本科毕业时，我才慢慢进入机器学习领域。所以，哪怕在机器学习领域中，我的研究习惯还保留着数学和物理的风格：企图从最少的原理出发，理解、推导尽可能多的东西。这篇文章是我这个理念的结果之一，试图以变分推断作为出发点，来统一地理解深度学习中的各种模型，尤其是各种让人眼花缭乱的GAN。本文已经挂到arxiv上，需要读英文原稿的可以移步到《Variational Inference: A Unified Framework of Generative Models and Some Revelations》。下面是文章的介绍。其实，中文版的信息可能还比英文版要稍微丰富一些，原谅我这蹩脚的英语…

摘要：本文从一种新的视角阐述了变分推断，并证明了EM算法、VAE、GAN、AAE、ALI(BiGAN)都可以作为变分推断的某个特例。其中，论文也表明了标准的GAN的优化目标是不完备的，这可以解释为什么GAN的训练需要谨慎地选择各个超参数。最后，文中给出了一个可以改善这种不完备性的正则项，实验表明该正则项能增强GAN训练的稳定性。

近年来，深度生成模型，尤其是GAN，取得了巨大的成功。现在我们已经可以找到数十个乃至上百个GAN的变种。然而，其中的大部分都是凭着经验改进的，鲜有比较完备的理论指导。

本文的目标是通过变分推断来给这些生成模型建立一个统一的框架。首先，本文先介绍了变分推断的一个新形式，这个新形式其实在博客以前的文章中就已经介绍过，它可以让我们在几行字之内导出变分自编码器（VAE）和EM算法。然后，利用这个新形式，我们能直接导出GAN，并且发现标准GAN的loss实则是不完备的，缺少了一个正则项。如果没有这个正则项，我们就需要谨慎地调整超参数，才能使得模型收敛。

实际上，本文这个工作的初衷，就是要将GAN纳入到变分推断的框架下。目前看来，最初的意图已经达到了，结果让人欣慰。新导出的正则项实际上是一个副产品，并且幸运的是，在我们的实验中这个副产品生效了。

变分推断新解#

假设\(x\)为显变量，\(z\)为隐变量，\(\tilde{p}(x)\)为\(x\)的证据分布，并且有

\[\begin{equation}q(x)=q_{\theta}(x)=\int q_{\theta}(x,z)dz\end{equation}\]

我们希望\(q_{\theta}(x)\)能逼近\(\tilde{p}(x)\)，所以一般情况下我们会去最大化似然函数

\[\begin{equation}\theta = \mathop{\text{argmax}}_{\theta}\, \int \tilde{p}(x)\log q(x) dx\end{equation}\]

这也等价于最小化KL散度\(KL(\tilde{p}(x)\Vert q(x))\)：

\[\begin{equation}KL(\tilde{p}(x)\Vert q(x)) = \int \tilde{p}(x) \log \frac{\tilde{p}(x)}{q(x)}dx\end{equation}\]

但是由于积分可能难以计算，因此大多数情况下都难以直接优化。

变分推断中，首先引入联合分布\(p(x,z)\)使得\(\tilde{p}(x)=\int p(x,z)dz\)，而变分推断的本质，就是将边际分布的KL散度\(KL(\tilde{p}(x)\Vert q(x))\)改为联合分布的KL散度\(KL(p(x,z)\Vert q(x,z))\)或\(KL(q(x,z)\Vert p(x,z))\)，而

\[\begin{equation}\begin{aligned}KL(p(x,z)\Vert q(x,z)) &= KL(\tilde{p}(x)\Vert q(x)) + \int \tilde{p}(x) KL(p(z|x)\Vert q(z|x)) dx\\ &\geq KL(\tilde{p}(x)\Vert q(x))\end{aligned}\end{equation}\]

意味着联合分布的KL散度是一个更强的条件（上界）。所以一旦优化成功，那么我们就得到\(q(x,z)\to p(x,z)\)，从而\(\int q(x,z)dz \to \int p(x,z)dz = \tilde{p}(x)\)，即\(\int q(x,z)dz\)成为了真实分布\(\tilde{p}(x)\)的一个近似。

当然，我们本身不是为了加强条件而加强，而是因为在很多情况下，\(KL(p(x,z)\Vert q(x,z))\)或\(KL(q(x,z)\Vert p(x,z))\)往往比\(KL(\tilde{p}(x)\Vert q(x))\)更加容易计算。所以变分推断是提供了一个可计算的方案。

VAE和EM算法#

由上述关于变分推断的新理解，我们可以在几句话内导出两个基本结果：变分自编码器和EM算法。这部分内容，实际上在《从最大似然到EM算法：一致的理解方式》和《变分自编码器（二）：从贝叶斯观点出发》已经详细介绍过了。这里用简单几句话重提一下。

VAE#

在VAE中，我们设\(q(x,z)=q(x|z)q(z), p(x,z)=\tilde{p}(x) p(z|x)\)，其中\(q(x|z),p(z|x)\)带有未知参数的高斯分布而\(q(z)\)是标准高斯分布。最小化的目标是

\[\begin{equation}\label{eq:kl-oo}KL\left(p(x,z)\Vert q(x,z) \right)=\iint \tilde{p}(x) p(z|x) \log \frac{\tilde{p}(x) p(z|x)}{q(x|z)q(z)}dxdz\end{equation}\]

其中\(\log \tilde{p}(x)\)没有包含优化目标，可以视为常数，而对\(\tilde{p}(x)\)的积分则转化为对样本的采样，从而

\[\begin{equation}\mathbb{E}_{x\sim \tilde{p}(x)}\left[-\int p(z|x)\log q(x|z)dz + KL(p(z|x)\Vert q(z))\right]\end{equation}\]

\[\begin{equation}\mathbb{E}_{x\sim \tilde{p}(x)}\Big[-\log q(x|z) + KL(p(z|x)\Vert q(z))\Big]\end{equation}\]

EM算法#

在VAE中我们对后验分布做了约束，仅假设它是高斯分布，所以我们优化的是高斯分布的参数。如果不作此假设，那么直接优化原始目标\(\eqref{eq:kl-oo}\)，在某些情况下也是可操作的，但这时候只能采用交替优化的方式：先固定\(p(z|x)\)，优化\(q(x|z)\)，那么就有

\[\begin{equation}\label{eq:em-1}q(x|z) = \mathop{\text{argmax}}_{q(x|z)} \,\mathbb{E}_{x\sim \tilde{p}(x)}\left[\int p(z|x) \log q(x,z) dz\right]\end{equation}\]

完成这一步后，我们固定\(q(x,z)\)，优化\(p(z|x)\)，先将\(q(x|z)q(z)\)写成\(q(z|x)q(x)\)的形式：

\[\begin{equation}q(x)=\int q(x|z)q(z)dz,\quad q(z|x)=\frac{q(x|z)q(z)}{q(x)}\end{equation}\]

那么有

\[\begin{equation}\begin{aligned}p(z|x) =& \mathop{\text{argmin}}_{p(z|x)} \,\mathbb{E}_{x\sim \tilde{p}(x)}\left[\int p(z|x) \log \frac{p(z|x)}{q(z|x)q(x)} dz\right]\\ =& \mathop{\text{argmin}}_{p(z|x)} \,\mathbb{E}_{x\sim \tilde{p}(x)}\left[KL\left(p(z|x)\Vert q(z|x)\right)-\log q(x)\right]\\ =& \mathop{\text{argmin}}_{p(z|x)} \,\mathbb{E}_{x\sim \tilde{p}(x)} \left[KL\left(p(z|x)\Vert q(z|x)\right)\right] \end{aligned}\end{equation}\]

由于现在对\(p(z|x)\)没有约束，因此可以直接让\(p(z|x)=q(z|x)\)使得loss等于0。也就是说，\(p(z|x)\)有理论最优解：

\[\begin{equation}\label{eq:em-2}p(z|x) = \frac{q(x|z)q(z)}{\int q(x|z)q(z)dz}\end{equation}\]

\(\eqref{eq:em-1},\eqref{eq:em-2}\)的交替执行，构成了EM算法的求解步骤。这样，我们从变分推断框架中快速得到了EM算法。

变分推断下的GAN#

在这部分内容中，我们介绍了一般化的将GAN纳入到变分推断中的方法，这将引导我们得到GAN的新理解，以及一个有效的正则项。

一般框架#

同VAE一样，GAN也希望能训练一个生成模型\(q(x|z)\)，来将\(q(z)=N(z;0,I)\)映射为数据集分布\(\tilde{p}(x)\)，不同于VAE中将\(q(x|z)\)选择为高斯分布，GAN的选择是

\[\begin{equation}q(x|z)=\delta\left(x - G(z)\right),\quad q(x)=\int q(x|z)q(z)dz\end{equation}\]

其中\(\delta(x)\)是狄拉克\(\delta\)函数，\(G(z)\)即为生成器的神经网络。

一般我们会认为\(z\)是一个隐变量，但由于\(\delta\)函数实际上意味着单点分布，因此可以认为\(x\)与\(z\)的关系已经是一一对应的，所以\(z\)与\(x\)的关系已经“不够随机”，在GAN中我们认为它不是隐变量（意味着我们不需要考虑后验分布\(p(z|x)\)）。

事实上，在GAN中仅仅引入了一个二元的隐变量\(y\)来构成联合分布

\[\begin{equation}q(x,y)=\left\{\begin{aligned}&\tilde{p}(x)p_1,\,y=1\\&q(x)p_0,\,y=0\end{aligned}\right.\end{equation}\]

这里\(p_1 = 1-p_0\)描述了一个二元概率分布，我们直接取\(p_1=p_0=1/2\)。另一方面，我们设\(p(x,y)=p(y|x) \tilde{p}(x)\)，\(p(y|x)\)是一个条件伯努利分布。而优化目标是另一方向的\(KL\left(q(x,y)\Vert p(x,y) \right)\)：

\[\begin{equation}\begin{aligned}KL\left(q(x,y)\Vert p(x,y) \right)=&\int \tilde{p}(x)p_1\log \frac{\tilde{p}(x)p_1}{p(1|x)\tilde{p}(x)}dx+\int q(x)p_0\log \frac{q(x)p_0}{p(0|x)\tilde{p}(x)}dx\\ \sim&\int \tilde{p}(x)\log \frac{1}{p(1|x)}dx+\int q(x)\log \frac{q(x)}{p(0|x)\tilde{p}(x)}dx\end{aligned}\end{equation}\]

一旦成功优化，那么就有\(q(x,y)\to p(x,y)\)，那么

\[\begin{equation}p_1 \tilde{p}(x) + p_0 q(x) = \sum_y q(x,y) \to \sum_y p(x,y) = \tilde{p}(x)\end{equation}\]

从而\(q(x)\to\tilde{p}(x)\)，完成了生成模型的构建。

现在我们优化对象有\(p(y|x)\)和\(G(x)\)，记\(p(1|x)=D(x)\)，这就是判别器。类似EM算法，我们进行交替优化：先固定\(G(z)\)，这也意味着\(q(x)\)固定了，然后优化\(p(y|x)\)，这时候略去常量，得到优化目标为：

\[\begin{equation}D = \mathop{\text{argmin}}_{D} -\mathbb{E}_{x\sim\tilde{p}(x)}\left[\log D(x)\right]-\mathbb{E}_{x\sim q(x)}\left[\log (1-D(x))\right]\end{equation}\]

然后固定\(D(x)\)来优化\(G(x)\)，这时候相关的loss为：

\[\begin{equation}\label{eq:gan-g-loss}G = \mathop{\text{argmin}}_{G}\int q(x)\log \frac{q(x)}{(1-D(x)) \tilde{p}(x)}dx\end{equation}\]

这里包含了我们不知道的\(\tilde{p}(x)\)，但是假如\(D(x)\)模型具有足够的拟合能力，那么跟\(\eqref{eq:em-2}\)式同理，\(D(x)\)的最优解应该是

\[\begin{equation}D(x)=\frac{\tilde{p}(x)}{\tilde{p}(x)+q^{o}(x)}\end{equation}\]

这里的\(q^{o}(x)\)是前一阶段的\(q(x)\)。从中解出\(\tilde{p}(x)\)，代入\(\eqref{eq:gan-g-loss}\)得到

\[\begin{equation}\begin{aligned}\int q(x)\log \frac{q(x)}{D(x) q^{o}(x)}dx=&-\mathbb{E}_{x\sim q(x)}\log D(x) + KL\left(q(x)\Vert q^{o}(x)\right)\\ =&-\mathbb{E}_{z\sim q(z)}\log D(G(z)) + KL\left(q(x)\Vert q^{o}(x)\right) \end{aligned}\end{equation}\]

基本分析#

可以看到，第一项就是标准的GAN生成器所采用的loss之一。

\[\begin{equation}-\mathbb{E}_{z\sim q(z)}\log D(G(z))\end{equation}\]

多出来的第二项，描述了新分布与旧分布之间的距离。这两项loss是对抗的，因为\(KL\left(q(x)\Vert q^{o}(x)\right)\)希望新旧分布尽量一致，但是如果判别器充分优化的话，对于旧分布\(q^{o}(x)\)中的样本，\(D(x)\)都很小（几乎都被识别为负样本），所以\(-\log D(x)\)会相当大，反之亦然。这样一来，整个loss一起优化的话，模型既要“传承”旧分布\(q^{o}(x)\)，同时要在往新方向\(p(1|y)\)探索，在新旧之间插值。

我们知道，目前标准的GAN的生成器loss都不包含\(KL\left(q(x)\Vert q^{o}(x)\right)\)，这事实上造成了loss的不完备。假设有一个优化算法总能找到\(G(z)\)的理论最优解、并且\(G(z)\)具有无限的拟合能力，那么\(G(z)\)只需要生成唯一一个使得\(D(x)\)最大的样本（不管输入的\(z\)是什么），这就是模型坍缩。这样说的话，理论上它一定会发生。

那么，\(KL\left(q(x)\Vert q^{o}(x)\right)\)给我们的启发是什么呢？我们设

\[\begin{equation}q^{o}(x)=q_{\theta-\Delta \theta}(x),\quad q(x)=q_{\theta}(x)\end{equation}\]

也就是说，假设当前模型的参数改变量为\(\Delta\theta\)，那么展开到二阶得到

\[\begin{equation}KL\left(q(x)\Vert q^{o}(x)\right)\approx \int\frac{\left(\Delta\theta\cdot \nabla_{\theta}q_{\theta}(x)\right)^2}{2q_{\theta}(x)} dx \approx \left(\Delta\theta\cdot c\right)^2\end{equation}\]

我们已经指出一个完备的GAN生成器的损失函数应该要包含\(KL\left(q(x)\Vert q^{o}(x)\right)\)，如果不包含的话，那么就要通过各种间接手段达到这个效果，上述近似表明额外的损失约为\(\left(\Delta\theta\cdot c\right)^2\)，这就要求我们不能使得它过大，也就是不能使得\(\Delta\theta\)过大（在每个阶段\(c\)可以近似认为是一个常数）。而我们用的是基于梯度下降的优化算法，所以\(\Delta\theta\)正比于梯度，因此标准GAN训练时的很多trick，比如梯度裁剪、用adam优化器、用BN，都可以解释得通了，它们都是为了稳定梯度，使得\(\theta\)不至于过大，同时，\(G(z)\)的迭代次数也不能过多，因为过多同样会导致\(\Delta\theta\)过大。

还有，这部分的分析只适用于生成器，而判别器本身并不受约束，因此判别器可以训练到最优。

正则项#

现在我们从中算出一些真正有用的内容，直接对\(KL\left(q(x)\Vert q^{o}(x)\right)\)进行估算，以得到一个可以在实际训练中使用的正则项。直接计算是难以进行的，但我们可以用\(KL\left(q(x,z)\Vert \tilde{q}(x,z)\right)\)去估算它：

\[\begin{equation}\begin{aligned}KL\left(q(x,z)\Vert \tilde{q}(x,z)\right)=&\iint q(x|z)q(z)\log \frac{q(x|z)q(z)}{\tilde{q}(x|z)q(z)}dxdz\\ =&\iint \delta\left(x-G(z)\right)q(z)\log \frac{\delta\left(x-G(z)\right)}{\delta\left(x-G^{o}(z)\right)}dxdz\\ =&\int q(z)\log \frac{\delta(0)}{\delta\left(G(z)-G^{o}(z)\right)}dz \end{aligned}\end{equation}\]

因为有极限

\[\begin{equation}\delta(x)=\lim_{\sigma\to 0}\frac{1}{(2\pi\sigma^2)^{d/2}}\exp\left(-\frac{x^2}{2\sigma^2}\right)\end{equation}\]

所以可以将\(\delta(x)\)看成是小方差的高斯分布，代入算得也就是我们有

\[\begin{equation}KL\left(q(x)\Vert q^{o}(x)\right)\sim \lambda \int q(z)\Vert G(z) - G^{o}(z)\Vert^2 dz\end{equation}\]

所以完整生成器的loss可以选为

\[\begin{equation}\mathbb{E}_{z\sim q(z)}\left[-\log D(G(z))+\lambda \Vert G(z) - G^{o}(z)\Vert^2\right] \end{equation}\]

也就是说，可以用新旧生成样本的距离作为正则项，正则项保证模型不会过于偏离旧分布。

下面的两个在人脸数据CelebA上的实验表明这个正则项是生效的。实验代码修改自这里，目前放在我的github上。

实验一：普通的DCGAN网络，每次迭代生成器和判别器各训练一个batch。

实验二：普通的DCGAN网络，但去掉BN，每次迭代生成器和判别器各训练五个batch。

GAN相关模型#

对抗自编码器（Adversarial Autoencoders，AAE）和对抗推断学习（Adversarially Learned Inference，ALI）这两个模型是GAN的变种之一，也可以被纳入到变分推断中。当然，有了前述准备后，这仅仅就像两道作业题罢了。

有意思的是，在ALI之中，我们有一些反直觉的结果。

GAN视角下的AAE#

事实上，只需要在GAN的论述中，将\(x,z\)的位置交换，就得到了AAE的框架。

具体来说，AAE希望能训练一个编码模型\(p(z|x)\)，来将真实分布\(\tilde{q}(x)\)映射为标准高斯分布\(q(z)=N(z;0,I)\)，而

\[\begin{equation}p(z|x)=\delta\left(z - E(x)\right),\quad p(z)=\int p(z|x)\tilde{q}(x)dx\end{equation}\]

其中\(E(x)\)即为编码器的神经网络。

同GAN一样，AAE引入了一个二元的隐变量\(y\)，并有

\[\begin{equation}p(z,y)=\left\{\begin{aligned}&p(z)p_1,\,y=1\\&q(z)p_0,\,y=0\end{aligned}\right.\end{equation}\]

同样直接取\(p_1=p_0=1/2\)。另一方面，我们设\(q(z,y)=q(y|z) q(z)\)，这里的后验分布\(p(y|z)\)是一个输入为\(z\)的二元分布，然后去优化\(KL\left(p(z,y)\Vert q(z,y) \right)\)：

\[\begin{equation}\begin{aligned}KL\left(p(z,y)\Vert q(z,y) \right)=&\int p(z)p_1\log \frac{p(z)p_1}{q(1|z)q(z)}dz+\int q(z)p_0\log \frac{q(z)p_0}{q(0|z)q(z)}dz\\ \sim&\int p(z)\log \frac{p(z)}{q(1|z)q(z)}dz+\int q(z)\log \frac{1}{q(0|z)}dz\end{aligned}\end{equation}\]

现在我们优化对象有\(q(y|z)\)和\(E(x)\)，记\(q(0|z)=D(z)\)，依然交替优化：先固定\(E(x)\)，这也意味着\(p(z)\)固定了，然后优化\(q(y|z)\)，这时候略去常量，得到优化目标为：

\[\begin{equation}\begin{aligned}D=\mathop{\text{argmin}}_D &-\mathbb{E}_{z\sim p(z)}\left[\log (1-D(z))\right]-\mathbb{E}_{z\sim q(z)}\left[\log D(z)\right]\\ =\mathop{\text{argmin}}_D &-\mathbb{E}_{z\sim \tilde{p}(x)}\left[\log (1-D(E(x)))\right]-\mathbb{E}_{z\sim q(z)}\left[\log D(z)\right]\end{aligned}\end{equation}\]

然后固定\(D(z)\)来优化\(E(x)\)，这时候相关的loss为：

\[\begin{equation}E = \mathop{\text{argmin}}_E \int p(z)\log \frac{p(z) }{(1-D(z)) q(z)}dz\end{equation}\]

利用\(D(z)\)的理论最优解\(D(z)=q(z)/[p^{o}(z)+q(z)]\)，代入loss得到

\[\begin{equation}\mathbb{E}_{x\sim \tilde{p}(x)}[-\log D(E(x))] + KL\left(p(z)\Vert p^{o}(z)\right)\end{equation}\]

一方面，同标准GAN一样，谨慎地训练，我们可以去掉第二项，得到

\[\begin{equation}\mathbb{E}_{x\sim \tilde{p}(x)}[-\log D(E(x))]\end{equation}\]

另外一方面，我们可以得到编码器后再训练一个解码器\(G(z)\)，但是如果所假设的\(E(x),G(z)\)的拟合能力是充分的，重构误差可以足够小，那么将\(G(z)\)加入到上述loss中并不会干扰GAN的训练，因此可以联合训练：

\[\begin{equation}G,E = \mathop{\text{argmin}}_{G,E}\mathbb{E}_{x\sim \tilde{p}(x)}\left[-\log D(E(x))+\lambda\Vert x - G(E(x))\Vert^2\right]\end{equation}\]

反直觉的ALI版本#

ALI像是GAN和AAE的融合，另一个几乎一样的工作是Bidirectional GAN (BiGAN)。相比于GAN，它将\(z\)也作为隐变量纳入到变分推断中。具体来说，在ALI中有

\[\begin{equation}q(x,z,y)=\left\{\begin{aligned}&p(z|x)\tilde{p}(x) p_1,\,y=1\\&q(x|z)q(z)p_0,\,y=0\end{aligned}\right.\end{equation}\]

以及\(p(x,z,y)=p(y|x,z) p(z|x) \tilde{p}(x)\)，然后去优化\(KL\left(q(x,z,y)\Vert p(x,z,y) \right)\)：

\[\begin{equation}\begin{aligned}&\iint p(z|x)\tilde{p}(x) p_1\log \frac{p(z|x)\tilde{p}(x) p_1}{p(1|x,z) p(z|x) \tilde{p}(x)}dxdz\\ +&\iint q(x|z)q(z)p_0\log \frac{q(x|z)q(z)p_0}{p(0|x,z) p(z|x) \tilde{p}(x)}dxdz\end{aligned}\end{equation}\]

等价于最小化

\[\begin{equation}\label{eq: ori-loss-ali}\iint p(z|x)\tilde{p}(x)\log \frac{1}{p(1|x,z)}dxdz+\iint q(x|z)q(z)\log \frac{q(x|z)q(z)}{p(0|x,z) p(z|x) \tilde{p}(x)}dxdz\end{equation}\]

\[\begin{equation}D=\mathop{\text{argmin}}_D -\mathbb{E}_{x\sim\tilde{p}(x),z\sim p(z|x)} \log D(x,z) - \mathbb{E}_{z\sim q(z),x\sim q(x|z)} \log (1-D(x,z))\end{equation}\]

跟VAE一样，对\(p(z|x)\)和\(q(x|z)\)的期望可以通过“重参数”技巧完成。接着固定\(D\)来优化\(G,E\)，因为这时候有\(E\)又有\(G\)，整个loss没得化简，还是\(\eqref{eq: ori-loss-ali}\)那样。但利用\(D\)的最优解

\[\begin{equation}D(x,z)=\frac{p^{o}(z|x)\tilde{p}(x)}{p^{o}(z|x)\tilde{p}(x)+q^{o}(x|z)q(z)}\end{equation}\]

可以转化为

\[\begin{equation}\begin{aligned}-\iint p(z|x)\tilde{p}(x)\log D(x, z) dxdz -\iint q(x|z) q(z)\log D(x, z) dxdz\\ +\int q(z) KL(q(x|z)\Vert q^o(x|z)) dz + \iint q(x|z) q(z)\log \frac{p^o(z|x)}{p(z|x)}dxdz\end{aligned}\end{equation}\]

由于\(q(x|z),p(x|z)\)都是高斯分布，事实上后两项我们可以具体地算出来（配合重参数技巧），但同标准GAN一样，谨慎地训练，我们可以简单地去掉后面两项，得到

\[\begin{equation}\label{eq:our-ali-g}-\iint p(z|x)\tilde{p}(x)\log D(x, z) dxdz -\iint q(x|z) q(z)\log D(x, z) dxdz\end{equation}\]

这就是我们导出的ALI的生成器和编码器的loss，它跟标准的ALI结果有所不同。标准的ALI（包括普通的GAN）将其视为一个极大极小问题，所以生成器和编码器的loss为

\[\begin{equation}\label{eq:our-ali-g-o1}\iint p(z|x)\tilde{p}(x)\log D(x, z) dxdz + \iint q(x|z) q(z)\log (1-D(x, z)) dxdz\end{equation}\]

或

\[\begin{equation}\label{eq:our-ali-g-o2}-\iint p(z|x)\tilde{p}(x)\log (1-D(x, z)) dxdz -\iint q(x|z) q(z)\log D(x, z) dxdz\end{equation}\]

它们都不等价于\(\eqref{eq:our-ali-g}\)。针对这个差异，事实上笔者也做了实验，结果表明这里的ALI有着和标准的ALI同样的表现，甚至可能稍好一些（可能是我的自我良好的错觉，所以就没有放图了）。这说明，将对抗网络视为一个极大极小问题仅仅是一个直觉行为，并非总应该如此。

结论综述#

本文的结果表明了变分推断确实是一个推导和解释生成模型的统一框架，包括VAE和GAN。通过变分推断的新诠释，我们介绍了变分推断是如何达到这个目的的。

当然，本文不是第一篇提出用变分推断研究GAN这个想法的文章。在《On Unifying Deep Generative Models》一文中，其作者也试图用变分推断统一VAE和GAN，也得到了一些启发性的结果。但笔者觉得那不够清晰。事实上，我并没有完全读懂这篇文章，我不大确定，这篇文章究竟是将GAN纳入到了变分推断中了，还是将VAE纳入到了GAN中～相对而言，我觉得本文的论述更加清晰、明确一些。

看起来变分推断还有很大的挖掘空间，等待着我们去探索。