--- theme: hydrogen highlight: atelier-dune-dark --- 本文为稀土掘金技术社区首发签约文章，14天内禁止转载，14天后未获授权禁止转载，侵权必究！ > 🍊作者简介：[秃头小苏](https://juejin.cn/user/1359414174686455)，致力于用最通俗的语言描述问题 > > 🍊往期回顾：[对抗生成网络GAN系列——GAN原理及手写数字生成小案例](https://juejin.cn/post/7120443914854613029) [对抗生成网络GAN系列——DCGAN简介及人脸图像生成案例](https://juejin.cn/post/7143603976854831135) [对抗生成网络GAN系列——AnoGAN原理及缺陷检测实战](https://juejin.cn/post/7145636393891561503) [对抗生成网络GAN系列——EGBAD原理及缺陷检测实战](https://juejin.cn/post/7146865965483950088) > > 🍊近期目标：写好专栏的每一篇文章 > > 🍊支持小苏：点赞👍🏼、收藏⭐、留言📩 > # 对抗生成网络GAN系列——WGAN原理及实战演练 ## 写在前面在前面我已经写过好几篇关于GAN的文章，感兴趣的可以点击下列链接了解详情： - \[1][对抗生成网络GAN系列——GAN原理及手写数字生成小案例](https://juejin.cn/post/7120443914854613029) 🍁🍁🍁 - \[2][对抗生成网络GAN系列——DCGAN简介及人脸图像生成案例](https://juejin.cn/post/7143603976854831135)🍁🍁🍁 - \[3][对抗生成网络GAN系列——CycleGAN原理](https://juejin.cn/post/7144920945839308808)🍁🍁🍁 - [4] [对抗生成网络GAN系列——AnoGAN原理及缺陷检测实战](https://juejin.cn/post/7145636393891561503) 🍁🍁🍁 - \[5][对抗生成网络GAN系列——EGBAD原理及缺陷检测实战](https://juejin.cn/post/7146865965483950088)🍁🍁🍁 在文章[5]的最后，我们从训练结果中可以看出效果并不是很理想，其实难以训练是GAN网络训练普遍存在的问题。本篇文章将为大家带来WGAN（Wasserstein Generative Adversarial Networks ），旨在解决GAN难train的问题。这篇论文中有大量的理论推导，我不会带着大家一个个推，当然很多我也不会，但是我尽可能的把一些关键部分给大家叙述清楚，让大家从心底认可WGAN，觉得WGAN是合理的，是美妙的。准备好了吗，就让我们一起来学学WGAN吧！🚖🚖🚖 ## WGAN原理详解 ### GAN为什么训练困难上文我们谈到GAN普遍存在训练困难的问题，而WGAN是用来解决此问题的。所谓对症下药，我们第一步应该要知道GAN为什么会存在训练难的问题，这样我们才能从本质上对其进行改进。下面就跟随我的步伐一起来看看吧！！！🌼🌼🌼 还记得我们在[1]中给出的GAN网络的损失函数吗？如下图所示： ![image-20220714095708540](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/45a1a0207b2049bfa7baa7d378eeee2c~tplv-k3u1fbpfcp-zoom-in-crop-mark:3024:0:0:0.awebp) 为了方便表述，对上图公式做如下调整： $$\mathop {\min }\limits_G \mathop {\max }\limits_D V = {E_{x \sim {{\rm{p}}_r}}}[\log D(x)] + {E_{x \sim {{\rm{p}}_g}}}[\log (1 - D(x))]$$ 即把后一项的$G(z)$用x来表示，x为生成器生成的分布。我们现在希望求得生成器固定是最大化的判别器D。首先，我们对于一个随机的样本，它可能是真实样本，也可能是生成的样本，那么对于这个样本的损失为： $${{\rm{P}}_r}(x)\log D(x) + {P_g}(x)\log [1 - D(x)]$$ 预求最大化的D，则对上式的`D(x)`求导，并让上式导函数为0，即： $$\frac{{{{\rm{P}}_r}(x)}}{{D(x)}} - \frac{{{{\rm{P}}_g}(x)}}{{1 - D(x)}} = 0$$ 化简上式，得最优的D表达式为： $${D^*}(x) = \frac{{{{\rm{P}}_r}(x)}}{{{{\rm{P}}_r}(x) + {{\rm{P}}_g}(x)}}$$ ———— 式1 我们可以来看看这个式1是否符合我们的直觉。若$p_r(x)=0、p_g(x)\ne 0$表示x完全服从生成分布，是假图像，所以最优判别器D给出的概率为0；若$p_r(x) \ne 0、p_g(x)= 0$表示x完全服从真实分布，是真图像，所以最优判别器D给出的概率为1；若$p_r(x)=p_g(x)$，表示x服从生成分布和服从真实分布的数据一样多，因此最优判别器D给出的概率为50%。如今我们已经找到了最大化的D，现要将其固定，寻找最小化的G，即求下式： $$\mathop {\min }\limits_G V = {E_{x \sim {{\rm{p}}_r}}}[\log D(x)] + {E_{x \sim {{\rm{p}}_g}}}[\log (1 - D(x))]$$ ———— 式2 将最大化的D即式1的$D^*(x)$代入式2得： $$\mathop {\min }\limits_G V = {E_{x \sim {{\rm{p}}_r}}}[\log (\frac{{{{\rm{p}}_r}(x)}}{{{{\rm{p}}_r}(x) + {{\rm{p}}_g}(x)}})] + {E_{x \sim {{\rm{p}}_g}}}[\log (\frac{{{{\rm{p}}_g}(x)}}{{{{\rm{p}}_r}(x) + {{\rm{p}}_g}(x)}})]$$ 再化简一步得式3： $$\mathop {\min }\limits_G V = {E_{x \sim {{\rm{p}}_r}}}[\log (\frac{{{{\rm{p}}_r}(x)}}{{\frac{1}{2}{{\rm{p}}_r}(x) + {{\rm{p}}_g}(x)}})] + {E_{x \sim {{\rm{p}}_g}}}[\log (\frac{{{{\rm{p}}_g}(x)}}{{\frac{1}{2}{{\rm{p}}_r}(x) + {{\rm{p}}_g}(x)}})] - 2\log 2$$ ———— 式3 化简成式3的形式是为了和KL散度和JS散度相联系。我们先来介绍KL散度和JS散度的定义：**【大家不要觉得散度这个词好像很高大上一样，大家其实就可以理解为距离】** - KL散度 $$KL(P_1||P_2)=E_{x \sim P_1}log \frac {P_1}{P_2}$$ 上式是用期望来表示KL散度的，我们也可以用积分或求和形式来表达，如下： $$KL(P_1||P_2)=\int\limits_x {{P_1}\log \frac{{{P_1}}}{{{P_2}}}} dx$$ 或 $$KL(P_1||P_2)= \sum {{p_1}\log } \frac{{{P_1}}}{{{P_2}}}$$ 我来大致的解释一下KL散度的含义，用$KL(P_1||P_2)=\sum {{P_1}( - log{P_2} - ( - log{P_1}))}$解释，如下图： ![image-20221004162943163](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/94b30e07d14f412eaa7022faa4c1f95f~tplv-k3u1fbpfcp-zoom-1.image) 关于KL散度我就介绍这么多，它还有一些性质，像非对称性等等，我这里就不过多介绍了，感兴趣的可以自己去阅读阅读相关资料。 - JS散度 $$JS({P_1}||{P_2}) = \frac{1}{2}KL({P_1}||\frac{{{P_1} + {P_2}}}{2}) + \frac{1}{2}KL({P_2}||\frac{{{P_1} + {P_2}}}{2})$$ 可以看出，JS散度是根据KL散度来定义的，它具有对称性。 --- 有了JS散度的定义，我们就可以将式3变换成如下形式： $$\mathop {\min }\limits_G V = 2JS({P_r}||{P_g}) - 2\log 2$$ ———— 式4 这时候肯定很多人会想了，为什么我们需要把式3化成式4这个JS散度的形式，这是因为我们的GAN训练困难很大原因就是这个JS散度捣的鬼。🍵🍵🍵 为什么说训练困难是JS散度捣的鬼呢？通过上文我们知道，我们将判别器训练的越好，即判别器越接近最优判别器，此时生成器的loss会等价为式4中的JS散度的形式，当我们训练生成器来最小化生成器损失时也就是最小化式4中的JS散度。这这过程看似非常的合理，只要我们不断的训练，真实分布和生成分布越来越接近，JS散度应该越来越小，直到两个分布完全一致，此时JS散度为0。但是理想很丰满，现实很骨感，JS散度并不会随着真实分布和生成分布越来越近而使其值越来越小，而是很大概率保持$log2$不变。 ![image-20221004183627189](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/d21b93c17a194bfe99c5c1301cdff117~tplv-k3u1fbpfcp-zoom-1.image) 如上图所示，随着$p_g$和$p_{data}$(也就是上文中所述的$p_r$)越来越近，它们的JS散度却不发生变化，一直等于log2，只有当$p_g$和$p_{data}$有重叠时才会发生变化，当完全重叠时，JS散度的值为0。也就是说，不论$p_g$和$p_{data}$相距多远，只要它们没有重叠，那么它们的JS散度就一直是常数log2，也就是在训练过程中loss一直不发生变化，这也意味着生成器的梯度一直为0，即生成器产生了梯度消失的现象。读了上文，我觉得你至少应该有两个疑问，其一是为什么两个分布不重合，它们JS散度一直为log2，其二为既然只要$p_g$和$p_{data}$有重叠，那么它们的JS散度就不是log2，这样我们是不是就可以更新梯度了呢？那么它们重叠的概率大吗？我们一个一个的来解决大家的疑惑。🥂🥂🥂 1. 什么两个分布不重合，它们JS散度一直为log2 这个其实是由JS散度的性质来决定的，这里带大家推一推。首先JS散度的表达式如下： $$JS({P_1}||{P_2}) = \frac{1}{2}KL({P_1}||\frac{{{P_1} + {P_2}}}{2}) + \frac{1}{2}KL({P_2}||\frac{{{P_1} + {P_2}}}{2})$$ 上文我也给出了KL散度的公式，将KL散度公式代入上式，得： $$JS({P_1}||{P_2}) = \frac{1}{2}\sum {{p_1}(x)\log } \frac{{2{p_1}(x)}}{{{p_1}(x) + {p_2}(x)}} + \frac{1}{2}\sum {{p_2}(x)\log } \frac{{2{p_2}(x)}}{{{p_1}(x) + {p_2}(x)}}$$ 再化简上式，将log2提出来，注意这里可以提是因为$\sum {{p_1}(x) = } \sum {{p_2}(x) = } 1$，提取后公式如下： $$JS({P_1}||{P_2}) = \frac{1}{2}\sum {{p_1}(x)\log } \frac{{{p_1}(x)}}{{{p_1}(x) + {p_2}(x)}} + \frac{1}{2}\sum {{p_2}(x)\log } \frac{{{p_2}(x)}}{{{p_1}(x) + {p_2}(x)}} + \log 2$$ 现在大家注意到上式已经有一个log2了，为证明我们的结论，我们只需证明两个分布不重合时上式左侧两项为0即可。我们以下图为例进行讲解： ![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/c858eb43ae434129971121aae5d4d74f~tplv-k3u1fbpfcp-zoom-1.image) 对于上图中的两个分布$P_1和P_2$，可以看出它们没有重叠部分。我们设$p_1(x)$为x落在$P_1$分布上的概率，设$p_2(x)$为x落在$P_2$分布上的概率，我们来看$JS(P_1||P_2)$的左边两项，即$\frac{1}{2}\sum {{p_1}(x)\log } \frac{{{p_1}(x)}}{{{p_1}(x) + {p_2}(x)}} + \frac{1}{2}\sum {{p_2}(x)\log } \frac{{{p_2}(x)}}{{{p_1}(x) + {p_2}(x)}}$ ，当$x<5$时，$p_2(x)$近似为0，则： $\frac{1}{2}\sum {{p_1}(x)\log } \frac{{{p_1}(x)}}{{{p_1}(x) + {p_2}(x)}} + \frac{1}{2}\sum {{p_2}(x)\log } \frac{{{p_2}(x)}}{{{p_1}(x) + {p_2}(x)}} = \frac{1}{2}\sum {{p_1}(x)\log } \frac{{{p_1}(x)}}{{{p_1}(x) + 0}} + \frac{1}{2}\sum {0\log } \frac{0}{{{p_1}(x) + 0}} = 0$ 当$x \ge 5$时，$p_1(x)$近似为0，则： $\frac{1}{2}\sum {{p_1}(x)\log } \frac{{{p_1}(x)}}{{{p_1}(x) + {p_2}(x)}} + \frac{1}{2}\sum {{p_2}(x)\log } \frac{{{p_2}(x)}}{{{p_1}(x) + {p_2}(x)}} = \frac{1}{2}\sum {0\log } \frac{0}{{0 + {p_2}(x)}} + \frac{1}{2}\sum {{p_2}(x)\log } \frac{{{p_2}(x)}}{{0 + {p_2}(x)}} = 0$ 因此对于任意的x都会有$\frac{1}{2}\sum {{p_1}(x)\log } \frac{{{p_1}(x)}}{{{p_1}(x) + {p_2}(x)}} + \frac{1}{2}\sum {{p_2}(x)\log } \frac{{{p_2}(x)}}{{{p_1}(x) + {p_2}(x)}}=0$ ，进而会有$JS(P_1||P_2)=log2$。🌱🌱🌱 --- > 这部分主要参考了[这篇文章](https://blog.csdn.net/Invokar/article/details/88917214)，我认为其对JS散度为什么等于log2解释的非常清楚🍦🍦🍦 --- 2. 任意的两个分布$p_g$和$p_{data}$重叠的概率有多大首先，我直接给大家明确结论，重叠概率很小，特别小。我说明一下这里所说的重叠概率指的是重叠部分不可忽略的概率，也就是说$p_g$和$p_{data}$可能会重叠，但是往往重叠部分都是可以忽略的。这部分大家可以参考[这篇文章](https://zhuanlan.zhihu.com/p/25071913)，写的非常好，对于这部分的解释也比较全面。我从两个角度帮助大家理解，其一，$p_g$和$p_{data}$假设为一条曲线，$p_g$开始往往都是随机生成的，所以很难和$p_{data}$重合，往往都是有一些交点，而这些交点是可以忽略的。实际上，$p_g$和$p_{data}$的维度往往很高，它们完全重叠的概率非常之低。 ![image-20221004201438790](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/5c1954a00b004eafa5d06068a98dde82~tplv-k3u1fbpfcp-zoom-1.image) 其二，我们往往是从$p_g$和$p_{data}$中采样一些点出来训练，即使$p_g$和$p_{data}$有重叠，但是经过采样后，它们很大可能就没有重叠了。 ![](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/faf5c9c91fce48b2b5853fe6f09826b0~tplv-k3u1fbpfcp-zoom-1.image) --- 解释了这么多，大家应该知道为什么GAN会训练困难了吧。最后总结一下，这是因为当判别器训练最优时，生成器的损失函数等价于JS散度，其梯度往往一直为0，得不到更新，所以很难train。 --- 我不知道大家是否会有这样的疑问，既然说生成器梯度得不大更新，为什么我们在训练GAN时还是能得到一些较好的图片呢，不应该什么也得不到呢。我是这样认为的，我们上述的推导都是建立在最优判别器的基础上的，但是在我们实操过程中往往一开始判别器性能是不理想的，所以生成器还是有梯度更新的。还有一点，就是我之前的文章代码中生成器的损失其实使用的$-logD(x)$，这种损失函数也会存在一些问题，往往出现梯度不稳定，模式崩溃问题，但是梯度消失问题出现比较少，所以还是能训练的。关于使用这种损失函数带来的缺陷我这里也不叙述了，大家感兴趣的可以看看[这篇文章](https://zhuanlan.zhihu.com/p/25071913)。🍹🍹🍹 ### EM distance(推土机距离)的引入我们上文详细分析了普通GAN存在的缺陷，主要是由于和JS散度相关的损失函数导致的。大佬们就在思考能否有一种损失能够代替JS散度呢？于是，WGAN应运而生，其提出了一种新的度量两个分布距离的标准——Wasserstein Metric，也叫推土机距离（Earth-Mover distance）。下面就让我们来看看什么是推土机距离吧！！！🌶🌶🌶 --- **【这部分参考[此篇文章](https://jonathan-hui.medium.com/gan-wasserstein-gan-wgan-gp-6a1a2aa1b490)】** 下图左侧有6个盒子，我们期望将它们都移动到右侧的虚线框内。比如将盒子1从位置1移动到位置7，移动了6步，我们就将此步骤的代价设为6；同理，将盒子5从位置3移动到位置10，移动了7步，那么此步骤的代价为7，依此类推。 ![1](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/a62431dca92d4f448b62244a4e31e2bd~tplv-k3u1fbpfcp-zoom-1.image) 图1 EM distance示例很显然，我们有很多种不同的方案，下图给出了两种不同的方案： ![2](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/d7a92696faa249248378824c5502fa0a~tplv-k3u1fbpfcp-zoom-1.image) 上图中右侧的表格表示盒子是如何移动的。比如在${\gamma _1}$中，其第一行第一列的值为1，表示有1个框从位置1移动到了位置7；第一行的第四列的值为2，表示有2个框从位置1移动到了位置10。上图中给出的两种方案的代价总和都为42，但是对于一个问题并不是所有的移动方案的代价都是固定的，比如下图： ![3](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/3ec7aa862e0842a080cb423ab32e1e0c~tplv-k3u1fbpfcp-zoom-1.image) 在这个例子中，上图展示的两种方案的代价是不同的，一个为2，一个为6。,**而推土机距离就是穷举所有的移动方案，最小的移动代价对应的就是推土机距离。**对应本列来说，推土机距离等于2。相信通过上文的表述，你已经对推土机距离有了一定了了解。现给出推土机距离是数学定义，如下： $${\rm{W}}({P_r},{P_g}) = \mathop {\inf }\limits_{\gamma \in \prod ({P_r},{P_g})} {E_{(x,y)}}[||x - y||]$$ 看到这个公式大家是不是都懵逼了呢，这里做相关的解释。${\prod ({P_r},{P_g})}$表示边缘分布$P_r和P_g$所有组合起来的联合分布$\gamma(x,y)$的集合。我们还是用图1中的例子来解释，${\prod ({P_r},{P_g})}$就表示所有的运输方案$\gamma$，下图仅列举了两种方案： ![4](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/e717d20aa46442dab1f9bbac0357205d~tplv-k3u1fbpfcp-zoom-1.image) ${E_{(x,y)}}[||x - y||]$ 可以看成是对于一个方案$\gamma$ 移动的代价，$\mathop {\inf }\limits_{\gamma \in \prod ({P_r},{P_g})} {E_{(x,y)}}[||x - y||]$ 就表示在所有的方案中的最小代价，这个最小大家就是$W(P_r,P_g)$，即推土机距离。🍄🍄🍄 --- 现在我们已经知道了推土机距离是什么，但是我们还没解释清楚我们为什么要用推土机距离，即推土机距离为什么可以代替JS散度成为更优的损失函数？我们来看这样的一个例子，如下图所示：

上图有两个分布$P_1和P_2$，$P_1$在线段AB上均匀分布，$P_2$在CD上均匀分布，参数$\theta$可以控制两个分布的距离。我们由前文对JS散度的解释，可以得到： $$JS({P_1}||{P_2}) = \left\{ \begin{array}{l} \log 2{\rm{ }} \quad \theta \ne {\rm{0}}\\ 0{\rm{ }} \quad \quad \ \ \theta {\rm{ = 0}} \end{array} \right.$$ 而对于推土机距离来说，可以得到： $$W(P_1,P_2)=|\theta|$$ 这样对比可以看出，推土机距离是平滑的，这样在训练时，即使两个分布不重叠推土机距离仍然可以提高梯度，这一点是JS散度无法实现的。🍋🍋🍋 --- ### WGAN的实现现在我们已经有了推土机距离的定义，同时也解释了推土机距离相较于JS散度的优势。但是我们想要直接使用推土机距离来定义生成器的损失似乎是困难的，因为这个式子${\rm{W}}({P_r},{P_g}) = \mathop {\inf }\limits_{\gamma \in \prod ({P_r},{P_g})} {E_{(x,y)}}[||x - y||]$ 是难以直接求解的，但是呢，作者大大用了一个定理将上式变化成了如下形式： $${\rm{W}}({P_r},{P_g}) = \frac{1}{k}\mathop {\sup }\limits_{||f|{|_L} \le K} {E_{x \sim {{\rm{P}}_r}}}[f(x)] - {E_{x \sim {{\rm{P}}_g}}}[f(x)]$$ 注意上式中的f有一个限制，即${||f|{|_L} \le K}$，我们称为lipschitz连续条件。这个限制其实就是限制了函数f的导数。它的定义如下： $$|f(x_1)-f(x_2)| \le K|x_1-x_2|$$ 即： $$\frac{|f(x_1)-f(x_2)|}{|x_1-x_2|} \le K$$ 很显然，lipschitz连续就限制了f的斜率的绝对值小于等于K，这个K称为Libschitz常数。我们来举个例子帮助大家理解，如下图所示： ![image-20221005103024152](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/5973b2f5f45843108775ca3b6e8e7d61~tplv-k3u1fbpfcp-zoom-1.image) 上图中log(x)的斜率无界，故log(x)不满足lipschitz连续条件；而sin(x)斜率的绝对值都小于1，故sin(x)满足lipschitz连续条件。 --- 这样，我们只需要找到一个lipschitz函数，就可以计算推土机距离了。至于怎么找这个lipschitz函数呢，就是我们搞深度学习的那一套啦，只需要建立一个深度学习网络来进行学习就好啦。实际上，我们新建立的判别器网络和之前的的基本是一致的，只是最后没有使用sigmoid函数，而是直接输出一个分数，这个分数可以反应输入图像的真实程度。呼呼呼~~，WGAN的原理就为大家介绍到这里了，大家掌握了多少呢？其实我认为只看一篇文章是很难把WGAN的所有细节都理解的，大家可以看看本文的参考文献，结合多篇文章看看能不能帮助大家解决一些困惑。🧅🧅🧅 ## WGAN代码实战 WGAN的代码实战我不打算贴出一堆代码了，只说明一下WGAN相较于普通GAN做了哪些改变。首先我们给出论文中训练WGAN的流程图，如下： ![image-20221005112701037](https://p3-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/c55544bb227244d8b407f1fd9ff8cd07~tplv-k3u1fbpfcp-zoom-1.image) 其实WGAN相较于原始GAN只做了4点改变，分别如下： 1. 判别器最后不使用sigmoid函数 2. 生成器和判别器的loss不取log 3. 每次更新判别器参数后将判别器的权重截断 4. 不适应基于动量的优化算法，推荐使用RMSProp 现在代码中分别对上述的4点做相关解释：**【很简单，所以大家想要将原始GAN修改为WGAN就按照下列的几点来修改就好了】** 1. 判别器最后不使用sigmoid函数这个我们一般只需要删除判别器网络中的最后一个sigmoid层就可以了，非常简单。但是我还想提醒大家一下，有时候你在看别人的原始GAN时，他的判别器网络中并没有sigmoid函数，而是在定义损失函数时使用了`BCEWithLogitsLoss`函数，这个函数会先对数据做sigmoid，相关代码如下： ```python # 定义损失函数 criterion = nn.BCEWithLogitsLoss(reduction='mean') ``` 如果这时你想删除sigmoid函数，只需将`BCEWithLogitsLoss`函数修改成`BCELoss`即可。关于`BCEWithLogitsLoss`和`BCELoss`的区别我[这篇文章](https://juejin.cn/post/7143603976854831135)有相关讲解，感兴趣的可以看看。🌽🌽🌽 2. 生成器和判别器的loss不取log 我们先来看原始GAN判别器的loss是怎么定义的，如下： ```python d_loss_real = criterion(d_out_real.view(-1), label_real) d_loss_fake = criterion(d_out_fake.view(-1), label_fake) d_loss = d_loss_real + d_loss_fake ``` 原始GAN使用了`criterion`函数，这就是我们上文定义的`BCEWithLogitsLoss`或`BCELoss`，其内部是一个log函数，不清楚的同样可以参考我的[这篇文章](https://juejin.cn/post/7143603976854831135)。而WGAN判别器的损失直接是两个期望（均值）的差，就对应理论中${E_{x \sim {{\rm{P}}_r}}}[f(x)] - {E_{x \sim {{\rm{P}}_g}}}[f(x)]$ 这部分啦**【但是需要加个负号，因为我们都是使用的梯度下降方法，要最小化这个损失，上式是最大化的公式】**，我们来看看代码中的实现： ```python d_loss = -(torch.mean(d_out_real.view(-1))-torch.mean(d_out_fake.view(-1))) ``` 看完判别器的损失，我们再来看生成器的损失： ```python g_loss = criterion(d_out_fake.view(-1), label_real) #原始GAN损失 --------------------------------------------------- g_loss = -torch.mean(d_out_fake.view(-1)) #WGAN损失 ``` 3. 每次更新判别器参数后将判别器的权重截断首先来说说没什么要进行权重截断，这是因为lipschitz连续条件不好确定，作者为了方便直接简单粗暴的限制了权重参数在[-c,c]这个范围了，这样就一定会存在一个常数K使得函数f满足lipschitz连续条件，具体的实现代码如下： ```python # clip D weights between -0.01, 0.01 权重剪裁 for p in D.parameters(): p.data.clamp_(-0.01, 0.01) ``` 注意这步是在判别器每次反向传播更新梯度结束后进行的。还需要提醒大家一点，在训练WGAN时往往会多训练几次判别器然后再训练一次生成器，论文中是训练5次判别器后训练一次生成器，关于这一点在上文WGAN的流程图中也有所体现。为什么要这样做呢？我思考这样做可能是想把判别器训练的更好后再来训练生成器，因为在前面的理论部分我们的推导都是建立在最优判别器的前提下的。🍵🍵🍵 4. 不适应基于动量的优化算法，推荐使用RMSProp 这部分就属于玄学部分了，作者做实验发现像Adam这类基于动量的优化算法效果不好，然后使用了RMSProp优化算法。我决定这部分大家也不要纠结，直接用就好。同样我们来看看代码是怎么写的，如下： ```python optimizerG = torch.optim.RMSprop(G.parameters(), lr=5e-5) optimizerD = torch.optim.RMSprop(D.parameters(), lr=5e-5) ``` --- 这样，WGAN的代码实战我就为大家介绍到这里，不管你前文的WGAN原理听明白了否，但是WGAN代码相信你是一定会修改的，改动的非常之少，大家快去试试吧。🍄🍄🍄 ## 小结这部分的理论确实是有一定难度的，我也看了非常非常多的视频和博客，写了很多笔记。我觉得大家不一定要弄懂每一个细节，只要对里面的一些关键公式，关键思想有清晰的把握即可；而这部分的实验较原始GAN需要修改的仅有四点，非常简单，大家都可以试试。最后希望大家都能够有所收获，就像WGAN一样稳定的进步，一起加油吧！！！🥂🥂🥂 ## 参考链接 > [令人拍案叫绝的Wasserstein GAN](https://zhuanlan.zhihu.com/p/25071913) 🍁🍁🍁 > > [GAN：两者分布不重合JS散度为log2的数学证明](https://blog.csdn.net/Invokar/article/details/88917214) 🍁🍁🍁 > > [GAN — Wasserstein GAN & WGAN-GP](https://jonathan-hui.medium.com/gan-wasserstein-gan-wgan-gp-6a1a2aa1b490) 🍁🍁🍁 > > [GAN — Spectral Normalization](https://jonathan-hui.medium.com/gan-spectral-normalization-893b6a4e8f53) 🍁🍁🍁 > > [李宏毅【機器學習2021】生成式對抗網路](https://www.bilibili.com/video/BV1pV411H7Fz/?spm_id_from=333.1007.top_right_bar_window_history.content.click&vd_source=12c43aedc12b9cf10b775c0015015b86) 🍁🍁🍁 如若文章对你有所帮助，那就🛴🛴🛴 ![一键三连 (1).gif](https://p9-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/6d8857a0049346fcbd790909eb0d90ab~tplv-k3u1fbpfcp-watermark.image?)