kernelfuncties

Kernelfuncties is een algemene term die in verschillende takken van de wiskunde en statistiek wordt gebruikt voor functies die twee inputs koppelen tot een getal. In de functionaalanalyse definiëren kernelfuncties vaak een integraaloperator Tf door Tf(x) = ∫ K(x,y) f(y) dμ(y). Een kernelfunctie wordt meestal verondersteld symmetrisch te zijn (K(x,y) = K(y,x)) en positief semidefinit (PSD), waardoor de operator eigenschappen zoals positiviteit en stabiliteit krijgt. Mercer-theorema geeft aan dat onder bepaalde voorwaarden zo'n kernel kan worden geschreven als een binnenproduct in een verborgen featureruimte: K(x,y) = ⟨φ(x), φ(y)⟩.

In machine learning en statistiek spelen kernelfuncties een centrale rol via de kerneltruc. Als K(x,y) = ⟨φ(x), φ(y)⟩, kan men in een algoritme werken met de in-producten in een vaak hoge-dimensionale featureruimte zonder φ expliciet te berekenen. Dit maakt algoritmen zoals support vector machines, kernel principal component analysis en Gaussian processes mogelijk.

Veelvoorkomende kernelfuncties zijn onder andere: lineaire kernel K(x,y) = x^T y; polynomial kernel K(x,y) = (x^T y + c)^d; Gaussian of RBF kernel K(x,y) = exp(-||x-y||^2 /(2σ^2)); Laplacian kernel K(x,y) = exp(-||x-y||_1 / σ).

Kernelfuncties worden ook in non-parametrische schatting gebruikt, zoals kernel density estimation f_hat(x) = (1/(nh)) Σ K((x - X_i)/h) en kernelregressie (Nadaraya-Watson).

Kernelfuncties verbinden ook met reproducing kernel Hilbert spaces (RKHS), waar evaluatie van functies via K(x,·) is ingebracht, wat de analyse vergemakkelijkt. Samenvatting: kernelfuncties koppelen inputs via een meetkundig object dat symmetrie en PSD-eigenschappen heeft, cruciaal in zowel wiskundige theorie als praktische algoritmen.