6월 21일 끄적끄적

 오늘은 RNN에 대해 배웠는데, 오늘 강의는 저번에 배운 RNN에 관한 내용을 복습하는 강의였던 것 같다. 사실, 인공지능 중에서도 NLP 쪽은 특히 직관적이지 않고 아무래도 일상생활에 친숙하지는 않다 보니까 이렇게 자주자주 내용을 상기시켜주는 것이 좋은 것 같다.

또한, RNN에서 왜 tanh을 activation function으로 사용하는지 다시 복습할 수 있는 유의미한 시간이었던 것 같다. 그리고 hidden state를 계산할 때, 이전 hidden state와 현재 input을 concat하는 과정이 머릿속에 잘 그려지지 않았는데, 오늘 직접 Matrix를 그려서 보니까 이해가 아주 잘 되었다. 여러모로 유익한 시간이었던 것 같다.

 

내일은 LSTM과 GRU에 대해 배우는데, 오늘처럼 저번 강의 복습하는 느낌으로 열심히 들어야겠다.