kernfuncties

Een kernfunctie, of kern, is een functie K: X × X → R die de mate van overeenkomst of nabijheid tussen twee invoerpunten meet. In de wiskunde en de machine learning-doctrine wordt een kern gebruikt om twee inputvectoren in relatie te brengen via een inner-product in een mogelijk hogere, verborgen ruimte: K(x, y) = ⟨φ(x), φ(y)⟩. Kernfuncties maken het mogelijk om zonder expliciete berekening van de feature mapping te werken (de kerneltruc).

Eigenschappen en theoretische aspecten: Een kern is doorgaans symmetrisch: K(x, y) = K(y, x). Voor veel toepassingen is K positief semidefinit: voor elke verzameling punten x1, ..., xn en scalars a1, ..., an geldt Σ_i Σ_j a_i a_j K(x_i, x_j) ≥ 0. Mercer stelt dat elke continue, symmetrische PSD-kern kan worden geïnterpreteerd als een inner-product in een zoeker Hilbertruimte; daarmee bestaat er een feature-map φ zodat K(x, y) = ⟨φ(x), φ(y)⟩.

Veel gebruikte kernfuncties: lineaire kernel K(x, y) = x^T y; polynomial kernel (α x^T y + c)^d; Gaussian of RBF-kern exp(-||x - y||^2 / (2σ^2)); Laplacian-kern exp(-||x - y||_1 / σ). Er bestaan verder diverse andere kernen voor specifieke taken.

Toepassingen: kernfuncties vormen de basis van de kerneltruc in machine learning, met name bij ondersteuningvectormachines, kernelprincipalacomponenten (kernel PCA), en Gaussian-processen. In statistiek en signaalverwerking worden ze ook gebruikt bij kernel density estimation, waarbij een kernel fungeert als smoothing-functie met een gekozen bandbreedte.

Samenvatting: kernfuncties leveren een flexibele manier om vergelijkings- en smoothing-operaties uit te voeren via inner-producten in mogelijk hogere ruimtes, met brede toepassingen in analyse, statistiek en machine learning.