딥러닝 공부방

Generative Moment Matching Network PDF, Generative Model, Yujia et al, arXiv 2015 Summary GAN은 generator와 discriminator 두 모델을 사용하여 minmax 손실 함수를 통해 학습이 진행됩니다. 논문에서 제안하는 GMMN은 하나의 신경망을 이용하며 Maximym Mean Discrepancy loss를 최소화하면서 학습을 진행합니다. 그러면 Maximum Mean Discrepancy loss(MMD loss)는 무엇일 까요? data sample과 generated sample 사이의 통계값이 같아지도록 학습을 진행합니다. 만약 통계값이 같다면 동일한 분포에서 추출된 샘플이라고 가정합니다. 신경망은 다음과 같이 구..

PyTorch 코드와 함께 Pix2Pix를 살펴보도록 하겠습니다. Pix2Pix는 image를 image로 변환하도록 generator을 학습합니다. 예를 들어, generator의 입력값으로 스케치 그림을 입력하면 완성된 그림이 나오도록 학습할 수 있습니다. 기존 GAN과 비교하여 설명하자면, Pix2Pix는 기존 GAN의 noise 대신에 스케치 그림을 입력하여 학습을 하는 것입니다. 어떻게 generator이 image to image를 생성하도록 학습시킬 수 있는지 살펴보겠습니다. 일반적으로 generator은 스케치를 입력받아 가짜 이미지를 출력합니다. 이 가짜 이미지를 discriminator이 완성된 그림으로 식별하도록 목적 함수를 설계하여 학습을 진행하면 서서히 generator은 완성된 ..

오늘 읽은 논문은 DCGAN, Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks 입니다. DCGAN은 generator와 discriminator 구조에 CNN을 적용한 것입니다. 이미지 특징을 포착하는 데에 특화되어 있는 CNN으로 모델 구조를 구성하므로 기존 FC layer로 구성되어 있는 GAN보다 성능이 탁월합니다. DCGAN의 generator와 discriminator이 어떤 구조를 갖고 있는지 구현 코드와 함께 살펴보겠습니다. 전체 구현 코드는 아래 깃허브에서 살펴보실 수 있습니다. Seonghoon-Yu/Paper_Review_and_Implementation_in_PyTor..

오늘 읽은 논문은 CGAN(2014), Conditional Generative Adversarial Nets 입니다. GAN에 대한 배경지식이 있다고 가정하여 포스팅을 작성합니다. GAN 논문 리뷰는 아래 포스팅에서 살펴보실 수 있습니다. [논문 읽기] 코드로 살펴보는 GAN(2014), Generative Adversarial Nets 오늘 읽은 논문은 GAN, Generative Adversarial Nets 입니다. 파이토치 코드와 함께 살펴보도록 하겠습니다. GAN은 Generator, Discriminator 두 개의 신경망으로 이루어져 있습니다. Generator Generator은.. deep-learning-study.tistory.com CGAN은 GAN에 조건부 데이터를 입력하여 성능..

오늘 읽은 논문은 GAN, Generative Adversarial Nets 입니다. 파이토치 코드와 함께 살펴보도록 하겠습니다. GAN은 Generator, Discriminator 두 개의 신경망으로 이루어져 있습니다. Generator Generator은 무작위로 생성한 noise로 가짜 이미지를 생성합니다. Generator PyTorch 구현 코드 # generator: noise를 입력받아 이미지를 생성합니다. class Generator(nn.Module): def __init__(self, params): super().__init__() self.nz = params['nz'] # 입력 노이즈 벡터 수, 100 self.img_size = params['img_size'] # 이미지 크기..