딥러닝/CV 논문21 [NLP]Transformer_ver2 [reference 및 figure 출처]https://nlpinkorean.github.io/illustrated-transformer/https://wikidocs.net/24996https://arxiv.org/pdf/1706.03762.pdfhttps://www.youtube.com/watch?v=mxGCEWOxfe8 [Transformer 이전의 자연어 번역 모델/ attention 모듈 개념] RNN을 이용해서 input 인 문장을 하나의 context vector로 압축을 한다. 즉 마지막 input sequence의(혹은 마지막 time step) hidden state라고 생각하면 될 것 같다. 이 context vector는 decoder에서 0 시점의 (0 time step) .. 2024. 10. 5. [Generation]GAN - 2부 https://hyelimkungkung.tistory.com/41?category=935163 [Generation]Generative Adversarial Nets 우왕! 이번엔 새로운 분야 이미지 생성이다! 하지만 난 그닥 흥미가 가지 않는다. 정말 재밌고 놀라운 걸 할 수 있는 분야인 건 확실한데........약간 그거다 불쾌한 골짜기..무서워....... 그리고 사 hyelimkungkung.tistory.com [수학적 증명을 더 자세히 보자] 이 GAN 모델은 수학적 증명이 꽤 간단하게 나와있다. 머리를 데굴데굴 굴려서 무슨 말인지 이해해보자. 기본적으로 GAN 모델이 어떻게 굴러가는지는 알고 있다고 치겠다. 4.1 global optimality of pg=pdata Ge.. 2022. 8. 9. [Instance Segmentation] Mask R-CNN Mask R-CNN 제목이 제일 심플하네 1. Abstract 다들 본인 분야가 제일 챌린징하다고 말하더라 Instance segmentation은 다른 부분에 비해서 조금 challenging 하다. 1) object detection 별로 개별 object 에 대해서 판단을 해야할 뿐 아니라 2) semantic segmentation 처럼 각 픽셀별로 object 에 대한 판단을 해야 하기 때문이다. 어떻게 보면 이 두 분야를 섞은 게 instance segmentation이라고 할 수 있다. 그래서 복잡해보일 수 있는 이 문제를, 본 논문에서는 쉽게 접근하고자 했다. Faster R-CNN의 확장판 같은 느낌으로 만들었는데, 기존에 존재하던 classification과 bbox regression.. 2022. 8. 1. [Object Detection] Faster R-CNN 예전에 쓰다가 지웠는데 그러지 말껄.. Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Network 이 논문의 주요 관심사는 어떻게 하면 region proposal 단계의 시간을 절약할 수 있을까! Fast R-CNN의 경우 "region proposal" 에 소요되는 시간을 제외하면 실시간에 사용할 수 있을만큼 빨리 훈련할 수 있다고 한다. 하지만 test-time 에는 반드시 "region proposal" 단계를 겪어야 하므로 사실상 실시간으로는 사용하지 못한다는 한계가 있다. 그래서 Faster R-CNN 에서는 region proposal 단계의 소요 시간을 줄이고 나아가서 이 과정 역시 convolution lay.. 2022. 7. 27. 이전 1 2 3 4 ··· 6 다음
