5월 16일 끄적끄적

오늘은 선형대수학 마지막 강의로 SVD에 대해 배웠다. 이전에 배운 Eigendecomposition이 square 한 matrix에서만 적용할 수 있었다면 오늘 배운 SVD는 Non-square 한 matrix에서도 적용시킬 수 있다고 한다. 또한, SVD는 dimensionality reduction, low-rank matrix approximation, recommendation system 등 다양한 분야에 사용된다고 한다.

 

나도 예전에 머신러닝 기초를 공부하면서 추천시스템 분야에서 scikit-learn 라이브러리에서 SVD를 한 번 써본 기억이 있다. 그런데 그때는 기법을 사용하는 데 비중을 둬서 이렇게 수학적인 의미가 이런 것인지는 처음 알았다.

 

SVD의 기본적인 decomposition된decomposition 된 matrix 형태는 Eigendecomposition과 비슷했지만 non-square matrix라던지, 각 decomposition 된 matrix가 orthogonal 해야 된다던지 등의 제약 조건이 있었다. 그래도 Eigendecomposition을 공부하고 와서인지 약간 비슷한 SVD는 더 쉽고 재밌게 공부할 수 있었다. (물론 내용이 쉽진 않았다.) 또한, 오늘 과제는 exercise 없이 SVD를 visualize 해보고 그 특징에 대해 알아보는 시간이었는데, 강의를 듣고 과제로 직접 visualize 해보니 더 쉽게 이해가 됐었다.

 

내일 선형대수학 Quiz 2를 끝으로 선형대수학 강의도 끝나고 수요일 부터는 머신러닝 강의를 시작하는데, 교육이 시작한 지 얼마 안 된 것 같은데 시간이 참 빠른 것 같다. 끝까지 초심을 잃지 않고 수료까지 달려가야겠다.