MCMCmetoder

MCMC-metoder (Markov Chain Monte Carlo) er samplingsmetoder som brukes for å trekke prøver fra komplekse sannsynlighetsfordelinger, spesielt posteriorfordelinger i bayesiansk statistikk, hvor direkte sampling er upraktisk eller umulig. Ideen er å bygge en Markov-kjede som har den ønskede fordelingen som stasjonær fordeling, og der kjeden blir kjørt lenge nok til at prøvene gir en representativ avbildning av fordelingen. Etter en innbrenningsperiode (burn-in) og etter at kjeden har slått seg ned, kan prøvene brukes til å estimere forventninger, varians og andre egenskaper.

De mest kjente MCMC-algoritmene er Metropolis-Hastings, som genererer kandidatprøver og aksepterer dem med en aksepteringsrate; Gibbs sampling, som oppdaterer hver variabel sekvensielt gitt de andre, forenkler noen problemstillinger når betingede fordelinger er enkle; og mer avanserte metoder som Hamiltonian Monte Carlo (HMC) og No-U-Turn Sampler (NUTS) som bruker gradientinformasjon for effektiv sampling i høy dimensjon. Adaptive MCMC og blokk-oppdateringer er videre utviklinger for bedre blanding og mindre manuell tuning.

Konvergensvurdering er viktig og inkluderer diagnostikk som sporplott, autokorrelasjon, beregning av effektiv prøvestørrelse og R-hat for å vurdere om kjeden har nådd stasjonær fordeling. Valg av forslagsfordeling eller integreringsteknikk er sentralt; i praksis må man ofte justere skrittlengder eller bruke adaptiv tilnærming.

MCMC brukes bredt i bayesiansk modellering, inferens for komplekse modeller, bayesiansk modellbasert maskinlæring, biostatistikk, økonometri og fysikk. Det finnes programvare som Stan, JAGS, PyMC og andre som implementerer MCMC-teknikker og støtter ulike modeller.

Til tross for kraft og bred anvendelse er MCMC-utfordringer knyttet til høy dimensjonalitet, multimodalitet, dårlig blanding og høy beregningskostnad. Riktig modellering og diagnostikk er derfor avgjørende for pålitelige resultater.