kernelfüggvények

A kernelfüggvény egy olyan függvény k: X × X → R, amely két bemeneti pont közötti hasonlóságot mér. Gyakran szimmetrikus, k(x, x′) = k(x′, x), és pozitív szemidefinite (PSD): minden n és x1, …, xn ∈ X esetén a Gram-mátrix K = [k(xi, xj)] PSD. Mercer-tétel értelmében létezik olyan φ: X → H jellemző tér, hogy k(x, x′) = ⟨φ(x), φ(x′)⟩, tehát a függvény olyan, mintha egy bizonyos térben vett belső szög-mérés lenne.

Gyakori példák közé tartozik a lineáris kernel k(x, x′) = x^T x′, a polinomiális kernel k(x, x′) = (γ x^T x′ + r)^d, és a Gauss/RBF kernel k(x, x′) = exp(-γ ||x - x′||^2). Szintén ismertek a Laplace- és a szigmoid típusú kernelfüggvények. Bizonyos kernel-típusok univerzálisak, tehát adott feltételek mellett a célfüggvények közelítésére elégségesek lehetnek.

A kernelfüggvények a kernel-módszerek alapját képezik: a gyakorlati célok közé tartozik a támogató vektormaszínák (SVM), a kernel ridge regression, a Gaussian process modellek, a kernel PCA és a spektrális klaszterezés. A kernel-trükk lehetővé teszi, hogy a belső tér kiépítése nélkül végezhessünk számításokat, a Gram-mátrix segítségével. A kiválasztott kernel és a hiperparaméterek jelentős hatással vannak a modell kapacitására és teljesítményére.