AI/Vision (2) 썸네일형 리스트형 DANN : Domain Adversarial Training Neural Network 연구 주제 관련 논문을 서치하다가 알게된 고전적인 방법이다. 이 논문은 2016년에 JMNL 저널에 나온 논문이지만, 아이디어 자체는 간단하여 지금까지도 인용이 많이 되고 있다. 알아두면 좋을 것 같아서 정리하기로 했다. 기존의 Domain Adaptation(DA) 방법에 GAN의 concept을 일부 도입한 방법이라고 이해하면 될 것 같다. Traditional 한 DA 방법은, 주로 fixed feature representation을 추출하여 원하는 target distribution에 mapping하는 것이다.하지만 위 논문은 representation 자체를 바꾸는 방법으로, 한 번의 training을 통해 위 결과를 도출해 낸다는 것이 가장 큰 특징이라고 할 수 있다. Domain.. [Paper Review] CLIP :Learning Transferable Visual Models From Natural Language Supervision Abstract기존 Vision - text미리 정해진 객체 카테고리를 예측하도록 훈련 됨.단점) visual concept을 지정하기 위해서는 추가적인 라벨 데이터가 필요하기 때문에 일반성, 사용성에 제한.고로, 이미지에 대한 원시 텍스트로부터 직접 학습하는 것이 훨씬 더 넓은 지도학습을 활용하는 대안이다.인터넷에서 수집한 4억개의 (이미지,텍스트) 쌍 데이터셋 구축.SOTA image representation을 처음부터 학습하는 효율적/확장적 방법으로, 어떤 캡션이 어떤 이미지와 일치하는지 예측하는 단순한 사전 학습 과제를 수행.학습 후에는, 자연어를 이용하여 down-stream task에 zero-shot tranfer를 할 수 있다.30개 이상의 vision dataset에서 위 방식으로 다양.. 이전 1 다음
