Parametric vs Nonparametric

LR vs SVM

로지스틱 리그레션은 확률분포를 생성한다.

SVM은 확률분포를 생성하지 않는다.

로지스틱 리그레션은 W라는 파라미터를 사용하고, 이를 학습하여 decision boundary를 나타낸다. 그리고 학습되고 나면 어떤 지점에 관해서도 확률을 이야기할 수 있다.

커널을 사용하지 않는 SVM의 경우도 W라는 파라미터를 사용하여 이를 학습한다. 그러나 decision boundary가 설정되면 더 이상은 없다. 확률에 관한 어떤것도 이야기해주지 않는다. 경계선 어느쪽에 있냐로 귀결될 뿐이다.

둘다 파라미터는 존재하지만 확률분포를 만드느냐 마느냐에서 parametric이냐 nonparametric이 갈리는 것이다.