论文复现代码： http://aistudio.baidu.com/#/projectdetail/23600
GAN
生成对抗网络（Generative Adversarial Nets）是一类新兴的生成模型，由两部分组成：一部分是判别模型（discriminator）D(·)，用来判别输入数据是真实数据还是生成出来的数据；另一部分是是生成模型（generator）G(·)，由输入的噪声生成目标数据。GAN 的优化问题可以表示为：
其中 Pdata 是生成样本，noise 是随机噪声。而对于带标签的数据，通常用潜码（latent code）c 来表示这一标签，作为生成模型的一个输入，这样我们有：
然而当我们遇到存在潜在的类别差别而没有标签数据，要使 GAN 能够在这类数据上拥有更好表现，我们就需要一类能够无监督地辨别出这类潜在标签的数据，InfoGAN 就给出了一个较好的解决方案。
互信息（Mutual Information）
互信息是两个随机变量依赖程度的量度，可以表示为：
要去直接优化 I(c;G(z,c)) 是极其困难的，因为这意味着我们要能够计算后验概率（posterior probability）P(c|x)，但是我们可以用一个辅助分布（auxiliary distribution）Q(c|x)，来近似这一后验概率。这样我们能够给出互信息的一个下界（lower bounding）：
InfoGAN
在 InfoGAN 中，为了能够增加潜码和生成数据间的依赖程度，我们可以增大潜码和生成数据间的互信息，使生成数据变得与潜码更相关：
▲ 图1. InfoGAN的整体结构图
由上面的，对于一个极大化互信息的问题转化为一个极大化互信息下界的问题，我们接下来就可以定义：
在论文的附录中，作者证明了：
于是：
故 LI (G, Q) 是互信息的一个下界。作者指出，用蒙特卡罗模拟（Monte Carlo simulation）去逼近 LI (G, Q) 是较为方便的，这样我们的优化问题就可以表示为：
实现
在实现中，D(x)、G(z, c) 和 Q(x) 分别用一个 CNN (Convolutional Neural Networks)、CNN、DCNN (DeConv Neural Networks) 来实现。同时，潜码 c 也包含两部分：一部分是类别，服从 Cat(K = N,p = 1/N)，其中 N 为类别数量；另一部分是连续的与生成数据有关的参数，服从 Unif(−1,1) 的分布。
在此应指出，Q(c|x) 可以表示为一个神经网络 Q(x) 的输出。对于输入随机变量 z 和类别潜码 c，实际的 LI(G, Q) 可以表示为：
其中 · 表示内积（inner product），c 是一个选择计算哪个 log 的参数，例如 ci = 1 而 cj = 0(∀j = 1,2,···,i − 1,i + 1,···,n)，那么 z 这时候计算出的 LI(G,Q) 就等于 log(Q(z,c)i)。这里我们可以消去 H(c)，因为 c 的分布是固定的，即优化目标与 H(c) 无关：
而对于参数潜码，我们假设它符合正态分布，神经网络 Q(x) 则输出其预测出的该潜码的均值和标准差， 我们知道，对于均值 μ，标准差 σ 的随机变量，其概率密度函数为：
要计算参数潜码 c 的
，就是要计算 log p(c)，即：
设 Q(x) 输出的参数潜码 c 的均值 μ，标准差 σ 分别为 Q(x)μ 和 Q(x)σ，那么对于参数潜码 c：
同样的，我们可以消去 H(c)，因为 c 的分布是固定的，那么：
实验
首先，通过和普通的 GAN 比较 LI ，作者证明了 InfoGAN 确实能够优化这一互信息的下界 2。
作者在 MNIST 手写数字数据集（3）、3D 面部数据集（4）、3D 椅子数据集（5）、SVHN 街景房号数据集（6）以及 CelebA 人脸数据集（7）上进行了模型的相关测试。
▲ 图2. MNIST手写字符数据集上的结果
▲ 图3. 3D面部数据集上的结果
▲ 图4. 3D椅子数据集上的结果
▲ 图5. SVHN街景房号数据集上的结果
▲ 图6. CelebA人脸数据集上的结果
作者展示了这些数据集上学习到的类别潜码（从上至下变化）和参数潜码（从左至右变化，由 -2 到 2），我们可以看出，InfoGAN 不仅能够很好地学习数据之间的类型差别，也能够很好地学习到数据本身的一些易于区分的特点，而且生成模型对这些特点的泛化能力还是很好的。
再论InfoGAN的LI
读完论文，我们发现，对于类别潜码，这个 LI 本质上是 x 与 G(z, c) 之间的 KL 散度：
也就是说：
而 min DKL(c||Q(G(z, c))) 意味着减小 c 与 Q(G(z, c)) 的差别。
▲ 图7. 普通GAN和InfoGAN的LI在训练过程中的比较如果我们不考虑 Q(x)σ 的影响，LI 的优化过程：
而
也意味着减小 c 与 Q(G(z, c))μ 的差。
再纵观整个模型，我们会发现这一对 LI 优化的过程，实质上是以 G 为编码器（Encoder）， Q 为解码器（Decoder），生成的图像作为我们要编码的码（code），训练一个自编码器（Autoencoder），也就是说，作者口中的信息论优化问题，本质上是无监督训练问题。
关于PaddlePaddle
在 PaddlePaddle 中，一个极为重要的概念即是 fluid.Program()，在官方文档里常见的 exe.run(program= fluid.default_startup_program())的 fluid.default_startup_program() 就是其中一个例子。
在这一使用中可以了解到，我们要用 exe.run() 中的 program 参数运行指定的 fluid.Program()，而官方文档指出，当该参数未指定时，会运行 fluid.default_main_program()，而 fluid.default_main_program() 代表的是未指定 fluid.Program() 的所有操作。
注意，这里说的是“所有”，由于 PaddlePaddle 没有计算依赖检测机制，即使在计算 fetch_list 中的值的时候不会用到操作也会被计算，这一点与 TensorFlow 极其不同，作者本人在使用过程中踩了很大的坑，还望各位注意。在执行多种任务的时候不要一股脑全部写在 fluid.default_main_program() 之中， 这样极其浪费资源，也容易造成一些问题。
一个新的 fluid.Program() 被创建之后，可以在 fluid.program_guard() 中指定该 fluid.Program() 中的操作与变量：
#创建Infer_program Infer_program = fluid.Program() #在这里面定义Infer_program中的操作与变量 with fluid.program_guard(main_program = Infer_program): #从外部通过feed传入的变量，一般是输入、标签等 X = fluid.layers.data(name='X', shape=[X_dim], dtype='float32') #全链接层 output = fluid.layers.fc(input = X, size = 128)
PaddlePaddle 中还需要注意的一点是，fluid.Variable 的命名空间是全局的，也就是说在同一或者不同 fluid. Program() 间，同名（fluid.Variable 的 name 属性相同）的 fluid.Variable 所指向的变量是相同的，所以同一名称在同一或者不同 fluid.Program () 中可以被使用多次，而不用担心 TensorFlow 中会出现的 reuse 问题。
要对一个操作的中的权值的名称进行定义（权值命名为 W1，偏置命名为 b1）：
output = fluid.layers.fc(input = X, size = 10, param_attr = fluid.ParamAttr(name="W1"), bias_attr = fluid.ParamAttr(name="b1"))
要在之后使用这些 fluid.Variable，例如在 Optimizer 中使用：
#可以直接用名称指代对应的fluid.Variable parameter_list = ["W1", "b1"] #构建optimizer optimizer = fluid.optimizer.AdamOptimizer() #指定optimizer优化的目标和对象 optimizer.minimize(loss, parameter_list=parameter_list)
在构建完基本的运算操作后，便可以开始初始化操作了：
#初始化fluid.Executor（指定执行程序位置） exe = fluid.Executor(fluid.CPUPlace()) #执行fluid.default_startup_program()，在fluid.program_guard()中 #若没有指定初始化program,则默认为此program exe.run(program=fluid.default_startup_program())
初始化完成后，可以开始训练啦：
#在从外部传入数据的时候要注意，传入数据的数据类型必须与fluid.layers.data #中定义的类型一致，否则会报错 #如果传入数据是list类型，建议转换为np.array，否则可能回报错： #fedding的数据中包含lod信息，请您转换成lodtensor #（渣翻译， 原因是list被默认为含有变长数据） feeding = {"X" : np.array(Z_noise).astype('float32')} #传入feeding中的数据，执行program程序，从计算结果中获取loss #（默认会被转换成np.array，可在函数参数中设置） loss_curr = exe.run(feed = feeding, program = program, fetch_list = [loss])
GAN实现
生成对抗网络（Generative Adversarial Nets）是一类新兴的生成模型，由两部分组成：一部分是判别模型（discriminator）D(·)，用来判别输入数据是真实数据还是生成出来的数据；另一部分是是生成模型（generator）G(·)，由输入的噪声生成目标数据。GAN 的优化问题可以表示为：
其中 Pdata 是生成样本，noise 是随机噪声。我们用一个双层的 MLP 来演示：
#判别模型 def discriminator(x): #使用fluid.unique_name.guard()添加模型内参数名称的前缀 with fluid.unique_name.guard('D_'): D_h1 = fluid.layers.fc(input = x, size = 256, act = "relu") D_logit = fluid.layers.fc(input = D_h1, size = 1, act = "sigmoid") return D_logit #生成模型 def generator(inputs): with fluid.unique_name.guard('G_'): D_h1 = fluid.layers.fc(input = inputs, size = 256, act = "relu") D_logit = fluid.layers.fc(input = D_h1, size = 784, act = "sigmoid") return D_logit
通常，一个 GAN 的训练由两部分组成，第一部分是对 D(·) 进行训练，极大化目标函数：
第二部分是对 G(·) 进行训练，极小化目标函数：
以下是两部分优化的定义：
#参考Todd的LSGAN的实现，使用函数获取模型所有变量 def get_params(program, prefix): all_params = program.global_block().all_parameters() return [t.name for t in all_params if t.name.startswith(prefix)] #G优化程序 G_program = fluid.Program() with fluid.program_guard(main_program = G_program): #定义输入数据 Z = fluid.layers.data(name='Z', shape=[Z_dim], dtype='float32') #执行相关模型的计算 G_sample = generator(Z) D_fake = discriminator(G_sample) #计算损失函数 G_loss = 0.0 - fluid.layers.reduce_mean(fluid.layers.log(D_fake + 1e-8)) #定义optimizer优化的变量的范围 theta_G = get_params(G_program, "G") G_optimizer = fluid.optimizer.AdamOptimizer() G_optimizer.minimize(G_loss, parameter_list=theta_G) #D优化程序 D_program = fluid.Program() with fluid.program_guard(main_program = D_program): Z = fluid.layers.data(name='Z', shape=[Z_dim], dtype='float32') X = fluid.layers.data(name='X', shape=[784], dtype='float32') #在使用数据集时，要注意相应接口传入数据的值的范围 #paddle.dataset.mnist中的数据，范围在[-1, 1] #要将其转换到sigmoid函数的值域内 X = X * 0.5 + 0.5 G_sample = generator(Z) D_real = discriminator(X) D_fake = discriminator(G_sample) D_loss = 0.0 - fluid.layers.reduce_mean(fluid.layers.log(D_real + 1e-8) + fluid.layers.log(1.0 - D_fake + 1e-8)) theta_D = get_params(G_program, "D") D_optimizer = fluid.optimizer.AdamOptimizer() D_optimizer.minimize(D_loss, parameter_list=theta_D)
在定义好这些之后，是时候开训练了：
#定义传入的数据 feeding_withx= {"X" : np.array(X_mb).astype('float32'), "Z" : np.array(Z_noise).astype('float32')} feeding = {"Z" : np.array(Z_noise).astype('float32')} #执行训练操作并获取当前损失函数的值 D_loss_curr = exe.run(feed = feeding_withx, program = D_program, fetch_list = [D_loss]) G_loss_curr = exe.run(feed = feeding, program = G_program, fetch_list = [G_loss])
若欲测试模型效果，可再定义一个 Inference：
#Inference Infer_program = fluid.Program() with fluid.program_guard(main_program = Infer_program): Z = fluid.layers.data(name='Z', shape=[Z_dim], dtype='float32') G_sample = generator(Z)
然后再这样获取 samples：
feeding = {"Z" : np.array(Z_noise).astype('float32')} samples = exe.run(feed = feeding, program = Infer_program, fetch_list = [G_sample])
后记
本文先前于今年 8 月完成，共享于 PaddlePaddle 论文复现群内，在 10 月 LSGAN 的复现公开之 后，参考该复现更改了模型参数命名和参数列表的实现方法，在此感谢 Todd 同学的复现对本文的帮助。
