使用PyTorch实现GAN(生成对抗网络)的详细步骤

avatar
作者
猴君
阅读量:0

使用PyTorch实现GAN(生成对抗网络)

在这篇博客中,我们将探讨如何使用PyTorch实现一个简单的生成对抗网络(GAN),用于生成手写数字图像(MNIST数据集)。我们将详细介绍代码的每一个部分,并确保所有注释信息都被保留。

1. 导入必要的库

以下是我们用到的主要库:

import torchvision import torch from matplotlib import pyplot as plt from torch import nn, Tensor from torch.utils.data import DataLoader from torch.utils.tensorboard import SummaryWriter from torchvision import transforms import os 

这些库将帮助我们处理数据、构建模型、训练网络以及可视化生成的图像。

2. 数据准备

我们需要首先对训练数据进行处理。下面是MNIST数据集的准备过程:

# 数据准备 transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize(0.5, 0.5)]) train_dataset = torchvision.datasets.MNIST("./dataset", train=True, transform=transform, download=True) train_dataloader = DataLoader(train_dataset, batch_size=64, shuffle=True, drop_last=True) 

我们使用了transforms.Compose将数据转换为张量并进行归一化,以便模型能够更好地进行学习。

3. 生成器和判别器的定义

接下来,我们定义生成器(Generator)和判别器(Discriminator)。

生成器:

# 生成器 class Generator(nn.Module):     def __init__(self):         super().__init__()         self.model = nn.Sequential(             nn.Linear(100, 128),             nn.Linear(128, 256),             nn.Linear(256, 512),             nn.Linear(512, 28 * 28),             nn.Tanh()         )      def forward(self, x):         return self.model(x) 

生成器将随机噪声输入转化为28x28的图像。

判别器:

# 判别器 class Discriminator(nn.Module):     def __init__(self):         super().__init__()         self.model = nn.Sequential(             nn.Flatten(),             nn.Linear(28 * 28, 512),             nn.LeakyReLU(),             nn.Linear(512, 256),             nn.LeakyReLU(),             nn.Linear(256, 1),             nn.Sigmoid()         )      def forward(self, x):         x = x.view(-1, 28, 28)         return self.model(x) 

判别器负责区分生成的图像和真实图像。

4. 初始化模型,优化器及损失计算函数

接下来,我们初始化模型、优化器以及损失函数。

# 初始化模型,优化器及损失计算函数 writer = SummaryWriter("./p1log") device = "cuda" if torch.cuda.is_available() else "cpu" gen = Generator().to(device) dis = Discriminator().to(device) # 优化器 g_optim = torch.optim.Adam(gen.parameters(), lr=1e-3) d_optim = torch.optim.Adam(dis.parameters(), lr=1e-3) # 损失函数 loss_fn = nn.BCELoss() epochs = 20 

我们使用Adam优化器和二元交叉熵损失函数(BCELoss)来计算生成器和判别器的损失。

5. 训练过程

我们开始训练循环,并对生成器和判别器进行优化。

# 开始循环 for epoch in range(epochs):     for step, (imgs, _) in enumerate(train_dataloader):         imgs = imgs.to(device)         size = imgs.size(0)  # 返回第0纬度的大小,也就是batch_size=64         random_noise = torch.randn(size, 100, device=device)  # 生成64个,大小为100特征值的噪音          # 鉴别器的优化         d_optim.zero_grad()         # 对真实的图片,希望判断为1         real_output = dis(imgs)         d_real_loss = loss_fn(real_output,                                torch.ones_like(real_output))  # 达到鉴别器在真实图片上的损失          # 对生成器生成的图片,希望对生成器生成的全部判断为0         gen_img = gen(random_noise)         fake_output = dis(gen_img).detach()  # 截断梯度,希望判断为0         d_fake_loss = loss_fn(fake_output,                                torch.zeros_like(fake_output))  # 得到鉴别器在生成图片上的损失         # 鉴别器的损失等于鉴别真实图片和鉴别生成图片的损失和         d_loss = d_fake_loss + d_real_loss         d_loss.backward()         d_optim.step()          # 生成器的优化         g_optim.zero_grad()         gen_img = gen(random_noise)         fake_output = dis(gen_img)         g_loss = loss_fn(fake_output,                          torch.ones_like(fake_output))         g_loss.backward()         g_optim.step()         # 将损失记录到tensorboard         writer.add_scalar('D_Loss_epoch:{}'.format(epoch + 1), d_loss.item(), epoch * len(train_dataloader) + step)         writer.add_scalar('G_Loss_epoch:{}'.format(epoch + 1), g_loss.item(), epoch * len(train_dataloader) + step)         # 每一百次进行一次打印         if step % 100 == 0:             print(f'Epoch [{epoch + 1}/{epochs}], Step [{step}], D Loss: {d_loss.item():.4f}, G Loss: {g_loss.item():.4f}')             print("Epoch:{},生成器的损失:{},鉴别器的损失:{}".format(epoch + 1, g_loss, d_loss)) 

在每个训练步骤中,我们首先优化判别器,之后再优化生成器。我们记录损失值以用于后期分析和可视化。

6. 生成和保存图像

在每个epoch结束时,我们将生成的图像保存到文件中。

# 每个 epoch 保存生成的图片 with torch.no_grad():     gen.eval()     test_noise = torch.randn(64, 100, device=device)     i = 0     generated_images = gen(test_noise).view(-1, 1, 28, 28)     generated_images = (generated_images + 1) / 2  # 将[-1, 1]转换到[0, 1]     # 绘图     grid = torchvision.utils.make_grid(generated_images, nrow=8)  # 将多个生成的图像组合成一个网格图像     plt.figure(figsize=(8, 8))  # 创建一个新的图形对象,并设置图形的大小为8x8英寸     plt.imshow(grid.cpu().numpy().transpose((1, 2, 0)))  # 转换为Matplotlib所需的格式     plt.axis('off')  # 关闭坐标轴和刻度     if not os.path.exists(f'./images/epoch_{epoch + 1}'):         os.makedirs(f'./images/epoch_{epoch + 1}')     plt.savefig(f"./images/epoch_{epoch + 1}/{i}.png")  # 保存生成的图片     i += 1     plt.close() 

这个部分的代码生成了一些假图片,并将结果保存到指定的目录中,以便后续查看。

总代码

import torchvision import torch from matplotlib import pyplot as plt from torch import nn, Tensor from torch.utils.data import DataLoader from torch.utils.tensorboard import SummaryWriter from torchvision import transforms import os  #数据准备 transform=transforms.Compose([transforms.ToTensor(),transforms.Normalize(0.5, 0.5)]) train_dataset=torchvision.datasets.MNIST("./dataset",train=True,transform=transform,download=True) train_dataloader=DataLoader(train_dataset,batch_size=64,shuffle=True,drop_last=True)  #生成器 class Generator(nn.Module):     def __init__(self):         super().__init__()         self.model=nn.Sequential(             nn.Linear(100,128),             nn.Linear(128,256),             nn.Linear(256,512),             nn.Linear(512,28*28),             nn.Tanh()         )      def forward(self,x):         return self.model(x) #判别器 class Discriminator(nn.Module):     def __init__(self):         super().__init__()         self.model=nn.Sequential(             nn.Flatten(),             nn.Linear(28*28,512),             nn.LeakyReLU(),             nn.Linear(512,256),             nn.LeakyReLU(),             nn.Linear(256,1),             nn.Sigmoid()         )      def forward(self,x):         x=x.view(-1,28,28)         return self.model(x)  #初始化模型,优化器及损失计算函数 #用BCEloss计算交叉熵损失 writer=SummaryWriter("./p1log") device="cuda" if torch.cuda.is_available() else "cpu" gen=Generator().to(device) dis=Discriminator().to(device) #优化器 g_optim=torch.optim.Adam(gen.parameters(),lr=1e-3) d_optim=torch.optim.Adam(dis.parameters(),lr=1e-3) #损失函数 loss_fn=nn.BCELoss() epochs=20  #开始循环 for epoch in range(epochs):     for step,(imgs,_) in enumerate(train_dataloader):         imgs = imgs.to(device)         size = imgs.size(0)#返回第0纬度的大小,也就是batch_size=64         random_noise = torch.randn(size, 100, device=device)#生成64个,大小为100特征值的噪音          # 鉴别器的优化         d_optim.zero_grad()         # 对真实的图片,希望判断为1         real_output = dis(imgs)         d_real_loss = loss_fn(real_output,                               torch.ones_like(real_output))  # 达到鉴别器在真实图片上的损失          # 对gen生成图片,希望对gen生成的全部判断为0         gen_img = gen(random_noise)         fake_output = dis(gen_img).detach()  # 截断梯度,希望判断为0         d_fake_loss = loss_fn(fake_output,                               torch.zeros_like(fake_output))  # 得到鉴别器在生成图片上的损失         # 鉴别器的损失等于鉴别真实图片和鉴别生成图片的损失和         d_loss = d_fake_loss + d_real_loss         d_loss.backward()         d_optim.step()          # 生成器的优化         g_optim.zero_grad()         gen_img=gen(random_noise)         fake_output = dis(gen_img)         g_loss = loss_fn(fake_output,                          torch.ones_like(fake_output))         g_loss.backward()         g_optim.step()         #将损失记录到tensorboard         writer.add_scalar('D_Loss_epoch:{}'.format(epoch+1), d_loss.item(), epoch * len(train_dataloader) + step)         writer.add_scalar('G_Loss_epoch:{}'.format(epoch+1), g_loss.item(), epoch * len(train_dataloader) + step)         #每一百次进行一次打印         if step % 100 == 0:             print(f'Epoch [{epoch+1}/{epochs}], Step [{step}], D Loss: {d_loss.item():.4f}, G Loss: {g_loss.item():.4f}')             print("Epoch:{},生成器的损失:{},鉴别器的损失:{}".format(epoch+1,g_loss,d_loss))  # 每个 epoch 保存生成的图片     with torch.no_grad():         gen.eval()         test_noise = torch.randn(64, 100, device=device)         i=0         generated_images = gen(test_noise).view(-1, 1, 28, 28)         generated_images = (generated_images + 1) / 2  # 将 [-1, 1] 转换到 [0, 1]         #绘图         grid = torchvision.utils.make_grid(generated_images, nrow=8)#torchvision.utils.make_grid 将多个生成的图像(generated_images)组合成一个网格图像,nrow=8 表示每一行显示 8 张图像。         plt.figure(figsize=(8, 8))#创建一个新的图形对象,并设置图形的大小为 8x8 英寸。         plt.imshow(grid.cpu().numpy().transpose((1, 2, 0))) #作用是将图像的数据格式从 PyTorch 的默认格式 (C, H, W) 转换为 Matplotlib 所需的格式 (H, W, C),以便正确显示图像。         plt.axis('off')#关闭坐标轴和刻度         if not os.path.exists(f'./images/epoch_{epoch+1}'):             os.makedirs(f'./images/epoch_{epoch+1}')         plt.savefig(f"./images/epoch_{epoch+1}/{i}.png")  # 保存生成的图片         i+=1         plt.close() 

广告一刻

为您即时展示最新活动产品广告消息,让您随时掌握产品活动新动态!