Deep Learning2 Dropout: A Simple Way to prevent NN from Overfitting 0. IntroDropout 의 기법에 대해 서술한 논문을 리뷰합니다.출처: Journal of Machine Learning Research 2014링크: https://jmlr.org/papers/volume15/srivastava14a/srivastava14a.pdf1. Abstract & Intro드랍아웃은 overfitting 을 해결하기 위한 테크닉이다.Noise 가 심한 Train data 의 경우, 즉 Train data 에만 존재하고 Test data 에서는 존재하지 않는 데이터의 특징이 있는 경우, NN 이 학습이 많이 될 경우, 해당 Noise 를 일반적인 규칙 이라고 생각하고 학습이 될 수 있다.Train accuracy 는 올라가는데 Val accuracy 는 떨어지는 현상이러한 .. 2024. 8. 1. Triplet Loss 0. 개요왜 triplet loss 에 대한 글을 작성하게 되었는가?distance based learning (e.g. knn) 에서 핫한 loss 라고 추천해줬습니다.아마도 제가 얼굴 인식 관련해서 dm 으로 이것저것 물어봤는데 마침 나비 분류 하고 있던터라 겸사겸사 알려주신 것 같습니다.아마도 나비 종류 구분 때문에 추천해주신 것 같은데 비슷한 application 으론 얼굴인식, fine-grained classification, 유사 이미지 검색, 추천시스템 등이 있습니다.1. 무엇loss function 입니다.이미지 인식, 얼굴 인식, 객체 구별하는 작업에서 사용됩니다.왜 인지는 밑에서 더 작성하겠습니다. 학습 과정에서 모델이 세 개의 데이터 포인트를 사용하여 학습하는 것 입니다.Anchor.. 2024. 8. 1. 이전 1 다음
