6월 19일 끄적끄적

 이번 31일 차 강의 내용을 오늘에서야 올리는 이유는 강의 내용과 실습 과제 모두 어려워서 주말 동안 다시 한번 공부했기 때문이다. 수업 내용을 다시 들어도 잘 이해가 되지 않아서 cs231n 강의를 유튜브로 다시 보고 『Attention is all you need』논문도 다시 보고 계속해서 구글링을 했던 것 같다. 다행히 반복 학습을 하다 보니 Attention을 이용한 Image Captioning 부분은 이해가 어느 정도 되었다. 물론, 전체적인 흐름에다 그 내부 model의 paramter와 함수 식들까지 공부하려니 정말 머리가 터질 것 같았다. 옛날에 처음 NLP 공부를 할 때 꼼꼼히 공부해 놨어야 됐는데 그러지 못해서 이번에 벌을 받고 있다.

 

이번 과제 실습은 LSTM Language model을 직접 코드로 구현해보는 내용이었는데, 사실 수업 본 강의인 Image Captioning보다 이게 더 문제였다. 코드를 계속해서 한줄한줄 뜯어보았는데도 어떤 부분에서 이런 코드가 등장했는지 모르겠는 부분이 너무 많았다. 그래도 어찌어찌 구글링을 통해서 어느 정도 이해를 하긴 했는데, 아직 의문인 점들이 남아서 월요일에 오피스아워를 신청해서 조교님한테 여쭤봐야겠다.

 

이번 주말은 이번 주 내용 복습도 아니고 금요일 내용을 공부하느라 끝나버렸다. 다음 주부터는 다시 TOEIC 공부도 시작하고 논문 review도 시작해야겠다.