Kernebaserede

Kernebaserede metoder refererer til maskinlæringsteknikker, der anvender kernefunktioner til at udvide lineære modeller til ikke-lineære problemstillinger uden eksplicit at gennemføre en højdimensionel mapping.

En kernefunktion k(x, x') måler ligheden mellem to inputvektorer og svarer til et implicitt featurerum phi(x)·phi(x'). Ved at bruge kerner i stedet for direkte mapping kan algoritmer, der normalt er lineære, som lineær regression eller support vector machines, fungere ikke-lineært i det oprindelige inputrum.

De mest anvendte kerner er lineær, polynomiel, radiel basisfunktion (RBF, også kaldet Gaussisk kernel) og sigmoid. Kernefunktionen gør det muligt at vælge en passende form for ikke-lineær afhængighed uden at ændre den grundlæggende algoritme nødvendigvis.

Vigtige metoder omfatter Support Vector Machines, kernel PCA, kernel ridge regression og Gaussian process regression. Disse metoder anvender kerner til at lære kompleks adfærd fra data og kan tilpasses forskellige opgavetyper og datatyper.

Fordele ved kernebaserede metoder inkluderer evnen til at modellere komplekse ikke-lineære sammenhænge uden eksplosiv stigning i dimensionen og en fleksibilitet i valg af kernel tilpasset dataene. Ulemperne omfatter betydelige beregnings- og hukommelsesomkostninger, samt behovet for omhyggelig valg og tuning af kernel og hyperparametre (f.eks. gamma, C, degree). Tilgangen kan også være mindre skalerbar til meget store datasæt, hvor tilnærminger som Nyström-tilnærminger eller random features anvendes.

Historisk blev kernelmetoderne populære i 1990’erne med udviklingen af SVM og kernel trick, og de er understøttet af teoretiske rammer som reproducerende kernelrum (RKHS). Anvendelser spænder bredt fra mønstergenkendelse og billed- og talebehandling til biomedicinsk dataanalyse.