Tetthetsestimering

Tetthetsestimering er en gren av statistikk som har som mål å avlede sannsynlighetstettheten til en tilfeldig variabel basert på observerte data. Tettheten beskriver hvordan sannsynlighetene fordeler seg over verdier og gir et fullstendig bilde av fordelingen uten å anta en spesifikk form.

Det skiller mellom parametiske metoder, som antar at dataene følger en kjent fordeling (for eksempel normalfordeling eller blandingsmodeller), og ikke-parametriske metoder som prøver å tilnærme tettheten mer fleksibelt uten å spesifisere en fast funksjon.

Den mest kjente ikke-parametriske metoden er kernel-tetthetsestimering (KDE). Her estimeres tettheten ved å summere glidende kjerner plassert rundt hver observasjon, med en bandwidth som styrer glattheten. Histogrammer representerer en enklere, men ofte mindre presis tilnærming. Parametriske metoder estimerer parametrene gjennom maks sannsynlighet eller Bayesiansk inferens, og tettheten beregnes fra disse parameterne.

Multivariat tetthetsestimering utvider konseptet til flere variabler, men møter den såkalte “curse of dimensionality”. Metoder inkluderer KDE i flere dimensjoner, ortogonale serier og blandingsmodeller som Gaussian-blandinger.

Bandwidth-valg er sentralt: regler som Silvermans regel og data-drevne kryssvalideringsmetoder brukes for å oppnå balanse mellom bias og varians. Evaluering av estimerte tettheter kan skje ved mål som integrert kvadratfeil eller L1-avstand, ofte gjennom kryssvalidering eller bootstrap. Tetthetsestimering brukes i dataanalyse, signalbehandling, økologi, finans og bildebehandling. Historisk oppstod metoder som histogrammer tidlig; kernel-tetthetsestimering ble populært etter Parzen (1962) og Rosenblatt (1956).