Kernelestimering

Kernelestimering er en ikke-parametrisk metode for å estimere sannsynlighetsfordelingen til en tilfeldig variabel eller forholdet mellom variabler ved hjelp av kernelfunksjoner. Metoden brukes til å lage glatte fordeler og til ikke-parametrisk regresjon. De viktigste formene er kernel-tetthetestimat (KDE) og kernelregresjon (Nadaraya–Watson).

For tetthet estimeres f_hat(x) = (1/(n h)) sum K((x - x_i)/h) der x_i er observerte verdier, n er antall observasjoner og h er båndbredde. K kan være Gaussisk, Epanechnikov, Uniform eller Triangular. KDE gir fleksible tilnærminger uten antakelser om en spesifikk form, men resultatene avhenger av valget av h og kantproblemer.

Valg av båndbredde er sentralt fordi h styrer bias- og variansforholdet. Vanlige metoder inkluderer Silvermans regel, kryssvalidering og plug-in-teknikker. I praksis er KDE mest pålitelig i moderate dimensjoner; i høyere dimensjoner blir det utfordrende på grunn av dimensjonalitetsforbannelsen og behovet for store prøver. Multivariat KDE bruker ofte produktkernel eller radialbaserte kerneler.

Kernelregresjon estimerer forventningen m(x) = E[Y|X=x] ved m_hat(x) = sum K((x - x_i)/h) y_i / sum K((x - x_i)/h). Dette gir en ikke-parametrisk glatting av forholdet mellom variabler og brukes i prognoser og dataanalyse.

Anvendelser inkluderer datavisualisering av fordelinger, trend- og mønstergjenkjenning, anomalideteksjon og preprosessering i signalbehandling og statistikk. Begrensninger inkluderer følsomhet for valg av båndbredde, kantkorreksjon og utfordringer i høyere dimensjoner samt beregningskostnader ved store datasett.