[파이토치 학습이 안 되는 경우]
(1) 모든 파라미터의 requires_grad가 True로 설정되어 있는지 확인한다
(2) 파라미터만 requires_grad=True 여야 하는 것은 아니다. 인풋 역시 마찬가지이다. 한편 loss는 requires_grad=True 인 것은 크게 중요하지 않다. loss는 input들이 requires_grad 가 True 이면 아무 상관 없는 듯하다.
[dtype error]
말그대로 타입이 안 맞아서 생긴 에러
(1) int/float/long 기본적인 타입을 확인한다
(2) input과 model 이 동일한 디바이스에 있는지 확인한다
+ 종합해서 보자면
loss 자체의 requires_grad나 type 보다는 input 의 requires_grad와 type이 더 중요한 것 같다. 이게 맞으면 알아서 loss는 잘 계산 되는 듯. 그런 의미에서 leaf variable이라고 하나 보다.
'기타 > TIL' 카테고리의 다른 글
[TIL] SGD 에 대한 제대로 된 이해 (0) | 2021.10.14 |
---|---|
[TIL] feature map은 대체 뭘 나타내는가? (0) | 2021.10.14 |
댓글