Matching Networks for One Shot Learning
https://arxiv.org/abs/1606.04080
Matching Networks for One Shot Learning
Learning from a few examples remains a key challenge in machine learning. Despite recent advances in important domains such as vision and language, the standard supervised deep learning paradigm does not offer a satisfactory solution for learning new conce
arxiv.org
episodic training을 제안한 논문이다.
episodic training에 대한 수식인데, 이해를 돕기 위해 그림과 함께 설명
few shot이 다음과 같이 학습이 진행된다면,
training set 전부를 쓰지 않고 test set과 동일한 환경에서 training을 진행하는 것이 episodic training
episode 마다 training set에서 uniform하게 클래스를 선택후 support set과 batch set을 구성한다.
전체 training set으로 학습을 진행하는게 아니라 episode 단위로 몇개의 클래스만 선정하여 학습하기 때문에, overfitting이 방지되는 효과가 있다고 한다.
relation network의 경우에 training시 100만번 episode를 진행.
'논문 읽기 > Meta, Few-Shot' 카테고리의 다른 글
| [논문 읽기] Learning to Compare: Relation Network for Few-Shot Learning(2017) (0) | 2022.01.10 |
|---|