Variansestimeringsmetoder

Variansestimeringsmetoder er teknikker for å vurdere hvor stor variasjon en statistisk variabel eller en estimator har mellom ulike prøver. De brukes til å måle usikkerhet rundt et estimat, enten populasjonsvariasjonen eller variansen i regresjonsmodeller. Metodene kan være analytiske og antagelsesavhengige, eller basert på resampling og simulering.

Ved klassisk parametrisk tilnærming estimeres populasjonsvariansen sigma^2 ofte med S^2 = (1/(n-1)) sum (x_i - x̄)^2; MLE gir sigma^2_MLE = (1/n) sum (x_i - x̄)^2 og er bias i små prøver. I regresjon estimeres feilvariansen som sigma_hat^2 = RSS/(n-p); variansene til koeffisientestimater er sigma_hat^2 (X'X)^{-1}.

I analyse av varians brukes kvadratsammensetninger for å skille mellom gruppevariasjon og feeveriasjon; estimasjoner for varianskomponenter i blandede modeller gjøres ofte med metoder som REML.

Robuste og designbaserte metoder: Heteroskedastisitet-robuste standardfeil, ofte kalt HC0-3, gjør at standardfeil og konfidensintervaller er gyldige uten antakelse om konstant varians. For undersøkelsesdata brukes designbaserte metoder som Taylor-linearization, jackknife og bootstrap med replicate weights til å estimere variansen av estimatorer.

Resampling: Bootstrap gir estimasjon av varians ved å trekke prøver med tilbakelegging og beregne spredning blant bootstrap-estimatorer; BCa-konfidensintervaller er vanlig. Jackknife estimerer varians ved å fjerne en observasjon av gangen og oppsummere effekten.

Bayesian tilnærming: I Bayesiansk analyse er variansen en del av posteriorfordelingen; posterior variance gir mål for usikkerhet i parameteren, og credible intervals oppgis som intervaller basert på denne fordeling. Priors brukes sammen med data til en posterior; konjugat priors for varians er ofte inverse-gamma.

Innen tidsserier modelleres volatilitet med metoder som GARCH, som estimerer tidsvariasjon i sigma_t^2.