kerneltekniikassa

Kerneltekniikassa tarkoitetaan joukkoa menetelmiä, joissa havaintoja käsitellään käyttämällä kernel-funktiota. Kernel-funktio k(x, y) määrittelee kahden pistemen kohdan samankaltaisuuden siten, että arvo vastaa sisätulon Φ(x)·Φ(y) arvoa jossakin mahdollisessa ominaisuus­tilassa Φ. Kernel-trickin avulla voidaan lineaariset mallit soveltaa ei-lineaarisesti ilman eksplisiittistä kartoitusta korkean ulottuvuuden tilaan.

Yleisimpiä kernel-funktioita ovat lineaarinen k(x, y) = x·y, polynomi, Gaussin eli Radial Basis Function (RBF) sekä sigmoidi. Mercerin teoreema takaa, että tietyin edellytyksin muodostettu kernel vastaa todellista sisätulon muunnelmaa, jolloin sitä voidaan käyttää epälineaaristen mallien rakentamiseen. Kernelit tarjoavat tavan suorittaa monia perinteisiä koneoppimisen tehtäviä laajentamalla niiden toimintoja ei-lineaarisesti.

Kerneltekniikasta käytetään monissa malleissa, kuten tuki-vektoreissa koneissa (SVM), kernel ridge regressionissa, kernel PCA:ssa, kernel-k-means -klusteroinnissa sekä Gaussin prosesseissa. Sovelluskohteita ovat luokittelu, regression, klusterointi ja ulottuvuuden vähentäminen sekä niiden yhdistelmät bioinformatiikassa, tekstin louhinnassa ja kuvan- sekä signaalinkäsittelyssä.

Haasteisiin kuuluu oikean kernelin ja hyperparametrien valinta sekä laskennallinen kustannus suuremmilla data-aineistoilla. Skaalautuvuutta parannetaan esimerkiksi näytteistämisellä, random Fourier -ominaisuuksilla tai Nyström-approksimaatioilla sekä sparsifying-tekniikoilla, jotka vähentävät muistia ja laskentaa. Kerneltekniikka on siten joustava työkalu monipuolisiin, ei-lineaarisiin riippuvuuksiin datassa.