논문 리뷰/Generative Model
-
DDPM 논문 리뷰(Denoising Diffusion Probabilistic Models)논문 리뷰/Generative Model 2024. 8. 9. 16:45
Diffusion Model의 초기 논문으로 유명한 DDPM에 대해 리뷰해보고자 한다. 수학도 수학인데, 논문의 디테일이 이해가 안되서 일주일동안 이것저것 찾아보면서 공부를 했다. Introduction생성된 샘플을 먼저 보자. Diffusion model의 초기 모델임에도 불구하고 초고해상도의 이미지 역시 잘 생성하는 모습을 볼 수 있다. 이 논문(이하 DDPM)은 ' Deep Unsupervised Learning using Nonequilibrium Thermodynamics'에 바탕을 둔 논문으로 마르코프 체인을 이용해 데이터에서 노이즈를 더해가는 과정의 역과정을 variational inference를 통해 추정하는 아이디어를 그대로 차용한다. DDPM은 Loss함수를 더 간단히 만듦과 동시에..
-
Deep Unsupervised Learning using Nonequilibrium Thermodynamics 논문 리뷰논문 리뷰/Generative Model 2024. 8. 6. 17:54
Diffusion model의 시초가 되는 'Deep Unsupervised Learning using Nonequilibrium Thermodynamics'에 대해 리뷰해보고자 한다. 관련 연구에 대한 설명은 생략하고 논문의 주된 논의 내용 위주로 소개하고자 한다. Diffusion Probabilistic ModelsDiffusion Probabilistic Models의 장점은 이 논문에서 4가지로 정리해 소개하고 있다.(1) 모델 구조의 유연함(2) 명확한 샘플링이 가능(3) 다른 분포와의 곱을 하는 등 연산이 간편함(4) 모델의 log likelihood나 각각의 state에서의 확률을 구하기 쉬움 Diffusion Probabilistic Models은 연속직인 Markov chain을 이용해..
-
Inception Score이란? Improved Techniques for Traning GANs 논문 리뷰논문 리뷰/Generative Model 2024. 8. 5. 17:02
Inception Score에 대한 정리를 한 번은 하는게 좋을 것 같아 Inception Score(이하 IS)를 소개한 논문 "Improved Techniques for Training GANS"를 정리해보고자 한다. 이 논문은 How to train GAN? 이라는 포스팅에서 이미 간단히 다룬 적이 있으므로 다음 포스팅을 참고하면 된다. Inception Score에 대해서만 자세히 리뷰하고, 나머지 부분은 훑어보고자 한다. (그런데 Inception Score 설명 파트가 매우 짧아서 당황...!) 이 논문이 나온 배경은 GAN이 학습이 어려운 생성형 모델이기 때문인데, GAN을 학습한다는 것은 파라미터가 연속이고 고차원인 non-convex game에서의 내쉬 균형을 찾는 것과 마찬가지로 많은 ..
-
Sliced Score Matching 논문 리뷰(Sliced Score Matching : A Scalable Approach to Density and Score Estimation)논문 리뷰/Generative Model 2024. 7. 31. 18:00
Score-based model을 공부하다가 denoising score matching과 더불어 sliced score matching이 나와 논문 리뷰를 해보고자 한다. 이 논문은 수학 증명이 탄탄하게 받혀주는 논문인데, 간단하게 statement 위주로 정리해보고자 한다. ※ 읽기에 앞서 score function 관련 내용에 대한 사전 지식이 필요하다. 관련 내용은 Score-based models 포스팅을 통해 확인할 수 있다. IntroductionScore matching (Hyvärinen, 2005) is particularly suitable for learning unnormalized statistical models, such as energy based ones. It is b..
-
Denoising Score Matching(DSN) 논문 리뷰(A Connection Between Score Matching and Denoising Autoencoders)논문 리뷰/Generative Model 2024. 7. 31. 14:47
Score-based models에 대해 공부하다가 Denoising Score matching 내용이 나와 근본 논문을 살펴보고자 2011년 AISTATS에 게재된 'A Connection Between Score Matching and Denoising Autoencoders'를 정리하게 되었다. 논문의 주요 수식 위주로 요약해보고자 한다. ※ 읽기에 앞서 score function 관련 내용에 대한 사전 지식이 필요하다. 관련 내용은 Score-based models 포스팅을 통해 확인할 수 있다. Notation더보기Parzen density estimate에 대한 설명)chatgpt가 해준 설명과 블로그 글을 읽어보면 이해가 된다! Denoising Autoencoders(DAEs)Denoisi..
-
StyleGAN(A Style-Based Generator Architecture for Generative Adversarial Networks)논문 리뷰/Generative Model 2024. 7. 27. 20:45
오늘은 2019년 CVPR에 게재된 StyleGAN 논문 리뷰를 해보고자 한다. 처음엔 논문 자체가 어렵게 적혀 있어 이해하기 힘들었는데, 나동빈님 유튜브를 보고 훨씬 쉽게 이해했다. 설명을 정말 잘하셔서.. 논문을 한 번 읽고 이 강의를 들으면 클리어하게 정리될 것이다!! 이 논문을 리뷰하기에 앞서 논문의 퍼포먼스를 먼저 살펴보자. 초고해상도의 사진 샘플들을 생성한 결과로, 여기 있는 모든 인물들은 실존 인물이 아니다! 얼굴의 주름, 표정, 배경 등에 이질감이 전혀 느껴지지 않고 뒤에서 살펴보겠지만 StyleGAN으로 인종, 머리색, 안경의 유무 등을 컨트롤 할 수 있다..! 논문이 다소 테크니컬하게 적혀있다고 생각할 수 있으나, 아이디어 위주로 보면 또 이해 못할 내용도 아닌지라, 나동빈님 유튜브와 ..
-
CycleGAN 논문 리뷰(Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks)논문 리뷰/Generative Model 2024. 7. 24. 16:22
CycleGAN 논문 리뷰를 해보고자 한다. 이 논문은 사실 첫 페이지에 있는 그림이 이 논문의 모든 것을 말해주는데, 엄청난 퍼포먼스에 비해 논문 자체는 쉽고 직관적으로 쓰여있어서 어렵지 않게 읽을 수 있다.이 논문의 아이디어는 이미지 쌍에 대한 supervised learning의 image-to-image 학습은 많이 발전해왔는데, 이미지 쌍이 없는 unsupervised learning으로의 image-to-image는 어려움을 겪고 있다는 점에서 착안해 Generative model 중 GAN을 이용해 image-to-image 학습을 진행하는 것에서 시작한다. CycleGAN의 특징은 inverse mapping을 하나 더 추가하고, cycle consistency loss를 이용한다는 점이며..
-
BiGAN 논문 리뷰(Adversarial Feature Learning)논문 리뷰/Generative Model 2024. 7. 23. 20:15
오늘은 BiGAN 논문을 리뷰할 예정이다. BiGAN(Bidirectional GAN)은 GAN의 일종의 inverse mapping을 학습하는 모델로 역방향 변환은 일종의 feature representation을 학습할 수 있는 변환임을 논문에서 보여주고 있다. 아이디어는 한 번쯤 많은 사람들이 해봄직한 생각인데, 이를 수학적인 증명과 함께 논문에 녹여내고 있어 많이 인용되는 것 같다. 다른 포스팅에서 리뷰한 논문(특히 GAN 등) 관련 내용은 생략할 예정이다. 필요하다면 기존 포스팅을 참고하면 된다. Introductionlatent space에서의 값을 interpolation시키고 generator에 넣으면 상당히 의미있는 semantic variations(의미있는 차이를 나타내는 변화)를 찾..