딥러닝50 [NLP]Transformer_ver2 [reference 및 figure 출처]https://nlpinkorean.github.io/illustrated-transformer/https://wikidocs.net/24996https://arxiv.org/pdf/1706.03762.pdfhttps://www.youtube.com/watch?v=mxGCEWOxfe8 [Transformer 이전의 자연어 번역 모델/ attention 모듈 개념] RNN을 이용해서 input 인 문장을 하나의 context vector로 압축을 한다. 즉 마지막 input sequence의(혹은 마지막 time step) hidden state라고 생각하면 될 것 같다. 이 context vector는 decoder에서 0 시점의 (0 time step) .. 2024. 10. 5. [외부프로젝트] COMPAS 김해시 CCTV 위치 선정 * 컴퓨터 ㄴ 자판이 빠졌다. 오타가 많다. * 후기이긴 한데 그냥 내 일기장이다. 읽어도 도움 안 됨. 아무 인사이트 얻을 수 없음. 오랜만에 쓰는 외부프로젝트 후기 다른 것도 언제가... 사실 내 고향은 진해 최우수상이라는 쾌거! 특이하게 대상이 1등이 아니고 최우수상이 1등이더라. 이유는 모른다. 동아리 사람들 4명과 함께했다. 벅찼던 방학 중 성과가 가장 좋았던 대회. 돈 버는 재미가 꽤 쏠쏠하다. 프로젝트 하면서 이번 달에 삼백만원 벌었거든 사실 다 팀원들이 멋지고 잘 나서 잘 된 대회다. 나는 말하는 감자... 까지는 아니고 수제비였다ㅎㅎ 아직 인간이 덜 됐다. 그래도 어깨 넘어로 배울 수 있었던 좋은 경험이다! 언제까지 배우고 있으면 안 되니까 얼른 커보겠다 ㅎㅎ [주제] 김해시 cctv 위.. 2022. 9. 29. [Generation]GAN - 2부 https://hyelimkungkung.tistory.com/41?category=935163 [Generation]Generative Adversarial Nets 우왕! 이번엔 새로운 분야 이미지 생성이다! 하지만 난 그닥 흥미가 가지 않는다. 정말 재밌고 놀라운 걸 할 수 있는 분야인 건 확실한데........약간 그거다 불쾌한 골짜기..무서워....... 그리고 사 hyelimkungkung.tistory.com [수학적 증명을 더 자세히 보자] 이 GAN 모델은 수학적 증명이 꽤 간단하게 나와있다. 머리를 데굴데굴 굴려서 무슨 말인지 이해해보자. 기본적으로 GAN 모델이 어떻게 굴러가는지는 알고 있다고 치겠다. 4.1 global optimality of $p_{g} = p_{data}$ Ge.. 2022. 8. 9. [Instance Segmentation] Mask R-CNN Mask R-CNN 제목이 제일 심플하네 1. Abstract 다들 본인 분야가 제일 챌린징하다고 말하더라 Instance segmentation은 다른 부분에 비해서 조금 challenging 하다. 1) object detection 별로 개별 object 에 대해서 판단을 해야할 뿐 아니라 2) semantic segmentation 처럼 각 픽셀별로 object 에 대한 판단을 해야 하기 때문이다. 어떻게 보면 이 두 분야를 섞은 게 instance segmentation이라고 할 수 있다. 그래서 복잡해보일 수 있는 이 문제를, 본 논문에서는 쉽게 접근하고자 했다. Faster R-CNN의 확장판 같은 느낌으로 만들었는데, 기존에 존재하던 classification과 bbox regression.. 2022. 8. 1. 이전 1 2 3 4 ··· 13 다음
