Kjernebaserte

Kjernebaserte metoder er en familie av lærealgoritmer som bruker kjernefunksjoner til å måle likhet mellom datapunkter og tillate beregning i et potensielt høydimensjonalt funksjonsrom uten eksplisitt kartlegging av dataene til dette rommet. Dette utnytter kernel-tricket og Mercer-teoremet for å gjøre ikke-lineær læring i et rom der dataene blir mer lineære.

Vanlige metoder inkluderer støttevektormaskiner (SVM) med ulike kerner, kjernebasert ridge-regresjon, kernel-PCA og kernel-k-means, samt stokastiske prosesser som Gaussian processes. Kernelfunksjoner som ofte brukes er lineær, polynomisk, radialis basert (RBF eller Gaussisk), samt Laplace- og sigmoide kerner. Valg av kernel og dens parametere er sentralt for ytelsen og bør tilpasses problemet.

Fordeler ved kjernebaserte metoder er evnen til å modellere ikke-lineære forhold uten eksplisitt å transformere dataene, samt sterke teoretiske egenskaper og fleksibilitet på ulike typer datamateriale. Begrensninger inkluderer beregnings- og minnekrav som ofte vokser raskt med antall datapunkter, risiko for overtilpasning ved feil kernel eller parametre, og utfordringer i tolkning sammenlignet med enklere lineære modeller.

Historisk bygger kernel-metoder på Mercer's teorem, og de ble spesielt popularisert i maskinlæring av forskere som Bernhard Schölkopf og Alexander Smola på 1990-tallet. De har funnet anvendelser innen bildebehandling, bioinformatikk, mønstergjenkjenning og tidsserieanalyse.