Apa perbedaan antara kernel linear dan kernel lain dalam SVM? Bukankah itu selalu MMH yang membagi ruang n-dimensi menjadi dua ruang setengah?


Jawaban 1:

SVM memang pembelajar linier (yaitu: mereka belajar permukaan keputusan linier). SVM dengan kernel linear mempelajari batas keputusan linear dalam ruang fitur asli. Sebuah kernel SVM, di sisi lain masih belajar batas keputusan linear, tetapi dalam ruang yang diubah. Sebagai contoh, fungsi basis radial SVM mempelajari batas linear dalam ruang dimensi tak terbatas. Dalam ruang fitur asli, batas seperti itu tampak seperti superposisi "gumpalan" bola pada poin data pelatihan.

Sebagai catatan, perhatikan bahwa jaringan yang dalam juga merupakan pembelajar linier (pada lapisan terakhir). Nonlinier adalah konsekuensi dari lapisan tersembunyi antara. SVM serupa - kernel adalah transformasi nonlinier.