herparametrisering

Herparametrisering, eller reparameterisering, er prosessen med å uttrykke en modell eller et problem med et annet sett av parametere enn originalen. Formålet er ofte å gjøre estimering eller optimering mer stabilt og effektivt, ved å redusere avhengighet mellom parametere, sikre at visse størrelser oppfyller krav eller forbedre numerisk kondisjon.

I statistikk og maskinlæring brukes herparametrisering blant annet i Bayesiansk inferens og i hierarkiske modeller. Vanlige teknikker inkluderer å skrive parametere som er naturlig positive eller begrensede som transformasjoner av ukjente, for eksempel sigma = exp(r) for en positiv standardavvik, eller theta = mu + sigma z med z ~ N(0,1). En annen vanlig tilnærming er å bruke en ikke-centret (non-centered) parameterisering i stedet for en sentrert (centered) en i hierarkiske modeller, for å redusere korrelasjon og bedre konvergens.

Fordeler inkluderer forbedret konvergens for MCMC, raskere optimering og mindre påvirkning av dårlig kondisjonering. Ulemper er at transformasjoner kan gjøre tolkningen av parametere mindre direkte, og at det ofte kan være behov for justeringer av sannsynligheter (Jacobian) ved enkelte transformasjoner.

Relaterte begreper inkluderer parameterisering, centered vs non-centered parameterisering, transformasjoner i sannsynlighetsmodeller, Jacobian og normaliseringsforvandlinger.