[ML] PCA 와 ICA 란?

들어가기 앞서,

• PCA(Principal Component Analysis) 와 ICA(Independent Componenet Analysis) 는 모두 차원 축소에 사용되는 기술이다.

주성분 분석 (PCA, Principal Component Analysis)

• PCA 는 기본적으로 비지도 학습(Unsupervised Learning) 이며,
• 데이터들의 주성분을 찾을 때, 데이터를 가장 잘 설명할 수 있는 축으로 찾는 기법이다.
• PCA 의 Principal Component 는 이 축을 의미하며,
• 분산이 최대가 되는 축이 데이터를 가장 잘 설명하는 축 벡터가 된다.

독립 성분 분석 (ICA, Independent Componenet Analysis)

• ICA 는 주성분을 이용한다는 점에서 PCA 와 비슷하지만,
• 데이터를 가장 잘 설명하는 축을 찾는 PCA 와는 달리, 가장 독립적인 축을 찾는다.
• 즉, 독립성(independence) 이 최대가 되는 벡터를 찾으며,
• 독립성은 ICA 의 알고리즘에 의해 계산된다.

PCA 와 ICA 의 차이점 시각화

참고

• https://blog.naver.com/PostView.naver?blogId=dndusdndus21&logNo=220323666085&redirect=Dlog&widgetTypeCall=true&directAccess=false
• https://engineer-mole.tistory.com/48
• https://wordbe.tistory.com/entry/Linear-Factor-Model-PCA-ICA-Sparse-coding-설명