基于MindSpore的CycleGAN介绍和实现

前言

我们这次介绍下著名的CycleGAN,同时提供了基于MindSpore的代码,方便大家运行验证。

CycleGAN的介绍

CycleGAN图像翻译模型,由两个生成网络和两个判别网络组成,通过非成对的图片将某一类图片转换成另外一类图片,可用于风格迁移,效果演示如下图所示:

基于MindSpore的CycleGAN介绍和实现

CycleGAN是GAN的一种,那什么是GAN呢?

生成对抗网络(Generative Adversarial Network, 简称GAN) 是一种非监督学习的方式,通过让两个神经网络相互博弈的方法进行学习,该方法由lan Goodfellow等人在2014年提出。生成对抗网络由一个生成网络和一个判别网络组成,生成网络从潜在的空间(latent space)中随机采样作为输入,其输出结果需要尽量模仿训练集中的真实样本。判别网络的输入为真实样本或生成网络的输出,其目的是将生成网络的输出从真实样本中尽可能的分辨出来。而生成网络则尽可能的欺骗判别网络,两个网络相互对抗,不断调整参数。 生成对抗网络常用于生成以假乱真的图片。此外,该方法还被用于生成影片,三维物体模型等。

好了,我们已经对GAN有了大体的了解,下面说回CycleGAN。

CycleGAN由两个生成网络和两个判别网络组成,生成网络A是输入A类风格的图片输出B类风格的图片,生成网络B是输入B类风格的图片输出A类风格的图片。生成网络中编码部分的网络结构都是采用convolution-norm-ReLU作为基础结构,解码部分的网络结构由transpose convolution-norm-ReLU组成,判别网络基本是由convolution-norm-leaky_ReLU作为基础结构,详细的网络结构可以查看network/CycleGAN_network.py文件。生成网络提供两种可选的网络结构:Unet网络结构和普通的encoder-decoder网络结构。生成网络损失函数由LSGAN的损失函数,重构损失和自身损失组成,判别网络的损失函数由LSGAN的损失函数组成。

CycleGAN最经典的地方是设计和提出了循环一致性损失。以黑白图片上色为例,循环一致性就是:黑白图(真实)—>网络—>彩色图—>网络—>黑白图(造假)。为了保证上色后的彩色图片中具有原始黑白图片的所有内容信息,文章中将生成的彩色图像还原回去,生成造假的黑白图,通过损失函数来约束真实白图和造假黑白图一致,达到图像上色的目的。除此之外,CycleGAN不像Pix2Pix一样,需要使用配对数据进行训练,CycleGAN直接使用两个域图像进行训练,而不用建立每个样本和对方域之间的配对关系,这就厉害了,一下子让风格迁移任务变得简单很多。

看一下CycleGAN的网络结构图:

基于MindSpore的CycleGAN介绍和实现

如果想了解更多详情,可以阅读CycleGAN的原论文,推荐读一读,会有更深刻和更清楚的理解,下面给出链接:

https://arxiv.org/abs/1703.10593)

; CycleGAN的实现

代码和数据集

代码和数据集链接:https://git.openi.org.cn/tjulitianyi/CycleGAN_MindSpore

特别说明:我们将在华为云ModelArts的NoteBook,基于MindSpore-GPU 1.8.0 运行CycleGAN的代码,因为云环境的更新不确定性,所以运行可能会报错,这时可以参考如下最新代码:https://gitee.com/mindspore/models/tree/master/research/cv/CycleGAN。

需要提醒大家的是,必须需要使用MindSpore 1.8.0,之前版本会报错,因为某些API不支持。而最新的1.8.1版本也会报错,报错信息如下:

基于MindSpore的CycleGAN介绍和实现

目前ModelArts最高支持到MindSpore 1.7,我们需要自行安装MindSpore 1.8.0版本。

先来看看我使用的NoteBook环境:

基于MindSpore的CycleGAN介绍和实现

这里特别提醒大家,NoteBook是要花钱的,我选择的单卡Tesla V100大约每小时28元,也有更便宜的,大概每小时8元的单卡Tesla P100,请大家根据自身情况选择,千万注意使用情况,别欠费了。

; 准备环境

下面进入NoteBook,打开一个Terminal:

基于MindSpore的CycleGAN介绍和实现

先来看看我们的显卡信息和CUDA Version:

基于MindSpore的CycleGAN介绍和实现

我们看到CUDA Version是10.2,下面到MindSpore官网看看安装教程,我们需要安装MindSpore 1.8.1,但是没有CUDA 10.2对应的版本,这里就选择就近的CUDA 10.1版本了。

基于MindSpore的CycleGAN介绍和实现

在Terminal执行如下命令:

pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/1.8.1/MindSpore/gpu/x86_64/cuda-10.1/mindspore_gpu-1.8.1-cp37-cp37m-linux_x86_64.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple

下载速度很快,安装速度也是非常快:

基于MindSpore的CycleGAN介绍和实现

最后运行显示如下信息,表示安装成功了:

基于MindSpore的CycleGAN介绍和实现

这里很奇怪,我之前是可以成功运行代码的,但是最近不行了,不知道是云环境的问题,还是MindSpore版本更新的问题,而关于代码运行的问题,我之前提交过issue,但是更新到MindSpore 1.8.0版本后解决,现在又不行了,很奇怪。

以下为当时运行保存的模型:

基于MindSpore的CycleGAN介绍和实现

; 结语

我们简单介绍了著名的CycleGAN,给出了基于MindSpor的完整代码,并带着大家跑了一遍,目前有些问题,后续会更新。作为经典的GAN的一种,CycleGAN有很多值得我们学习的地方,还需要深入分析挖掘,以鉴今事。

关于代码运行的问题,可以到官仓提交issue求助,下为链接:
https://gitee.com/mindspore/models/issues

之后的更新请到下方链接查看,谢谢:

基于MindSpore的CycleGAN介绍和实现-云社区-华为云

Original: https://blog.csdn.net/qq_40679625/article/details/126333573
Author: Tianyi Li 1997
Title: 基于MindSpore的CycleGAN介绍和实现

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/689781/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球