논문 리뷰
2022. 8. 25.
컴퓨터비전 논문 리뷰: Masked Autoencoders Are Scalable Vision Learners
Author: Dahyeon Lee Date: 2022/08/25 논문: Masked Autoencoders Are Scalabel Vision Learners https://arxiv.org/abs/2111.06377 [Summary] 데이터의 일부를 지우고, 그 부분을 예측하기 위해 학습하는 개념을 통해 NLP에서 좋은 성과를 보였다고 한다. 본 연구는 이러한 masked autoencoding (self-supervised pre-training) 개념을 CV에 적용해보았다고 볼 수 있다. 이 때 language와 image 차이로 나타나는 한계를 해결하고자 크게 두 방법을 제시한다. 1. 비대칭 encoder-decoder 구조 encoder의 경우 masked patches를 제외한 부분만 인코..
