kjernemetoder

Kjernemetoder er en gruppe teknikker som bygger på å måle likhet mellom data ved hjelp av en kernel-funksjon. Denne tilnærmingen gjør det mulig å lære og gjøre inferanser i ikke-lineære eller høydimensjonale rom uten eksplisitt å projisere dataene inn i disse rommene. Kjernen i kjernemetoder er kernel-trikset: ved å beregne K(x, y) mellom par av datapunkter kan man utføre operasjoner som tilsvare innerprodukter i et høyere funksjonsrom.

En kernel-funksjon tar to datapunkter og returnerer en skalar som reflekterer deres likhet i et implicit rom. Vanlige eksempler inkluderer lineær, polynomisk, Gaussisk (radial basis function) og sigmoid-kernel. Uten å eksplisitt utvide funksjonsrommet, kan kjernemetoder dermed utnytte egenskaper til ikke-lineære modeller og samtidig beholde beregningene i det opprinnelige datarommet.

Typiske metoder som regnes som kjernemetoder inkluderer support vector machines, kernel ridge regression, kernel principal component analysis, og Gaussian processes, samt ulike kernel-baserte varianter av k-means og andre clustering-teknikker. Bruk av kjernemetoder finner man bredt i maskinlæring, statistikk og signalbehandling, der behovet for fleksible, ikke-lineære modeller er viktig.

Begrensninger inkluderer valg av riktig kernel og parametere, som ofte krever empirisk tuning eller tverrsjekk. Beregning av kernel-matrisen skalerer vanligvis med antallet prøver, noe som kan være kostbart for store datasett. Det finnes derfor tilnærminger som teksturering og metoder for skalerbarhet, som randomiserte teknikker og low-rank-tilnærminger.

Historisk har kernel-konseptet røtter i Mercer-teoremet og senere utviklet seg til en sentral idé i maskinlæring og statistikk, spesielt med fremveksten av SVM og relaterte metoder på 1990-tallet og utover. Se også kernelmetoder, Mercer-teoremet, support vector machines, kernel PCA og Gaussiske prosesser.