Learning Representations by Maximizing Mutual Information Across Views Philip Bachman, R Devon Hjelm arXiv 2019 PDF, SSL By SeonghoonYu August 8th, 2021 Summary (1) 하나의 이미지에 random augmentation을 적용하여 두 개의 view (x1, x2) 를 생성합니다. (2) 각각을 encoder에 전달합니다. f(x1), f(x2) (3) f(x1), f(x2)의 feature map의 index 사이의 상호정보량을 계산합니다. feature map은 1-to-5, 1-to-7, 5-to-5 로 설정하며 index는 uniform하게 sample 합니다. Loss는 ..
