LR vs SVM
로지스틱 리그레션은 확률분포를 생성한다.
SVM은 확률분포를 생성하지 않는다.
로지스틱 리그레션은 W라는 파라미터를 사용하고, 이를 학습하여 decision boundary를 나타낸다. 그리고 학습되고 나면 어떤 지점에 관해서도 확률을 이야기할 수 있다.
커널을 사용하지 않는 SVM의 경우도 W라는 파라미터를 사용하여 이를 학습한다. 그러나 decision boundary가 설정되면 더 이상은 없다. 확률에 관한 어떤것도 이야기해주지 않는다. 경계선 어느쪽에 있냐로 귀결될 뿐이다.
둘다 파라미터는 존재하지만 확률분포를 만드느냐 마느냐에서 parametric이냐 nonparametric이 갈리는 것이다.