.learn()
what I have learned so far
-
Convolution의 역전파: 커널과 입력의 기울기 유도하기
Convolution layer의 커널과 입력 기울기를 chain rule로 유도하고, cross-correlation과 full convolution의 관계 및 커널을 뒤집는 이유를 설명한다.
-
왜 하필 Cross Entropy인가: BCE에서 KL Divergence까지
분류 문제에 MSE 대신 Cross Entropy를 쓰는 이유를 정보량과 엔트로피에서 출발해 BCE, MLE, KL Divergence까지 하나의 흐름으로 정리.
-
ROUGE
Recall-Oriented Understudy for Gisting Evaluation
-
덕 타이핑, 그리고 파이썬이 타입을 다루는 방식
덕 타이핑이란 무엇인지, ABC와 Protocol이 덕 타이핑에 어떤 영향을 미치는지, 그리고 타입 힌트가 덕 타이핑과 어떻게 공존하는지에 대한 설명.
-
행렬 곱의 네 가지 관점
The four different perspectives of matrix multiplication.