MarkovKettenMonteCarloMethoden

Markov-Ketten-Monte-Carlo-Methoden (MCMC) sind eine Familie von Algorithmen zur Stichprobenziehung aus Wahrscheinlichkeitsverteilungen, insbesondere aus posterioren Verteilungen in der Bayes’schen Statistik. Das zentrale Ziel ist es, Proben aus einer Zielverteilung π zu erzeugen, ohne deren Normalisierungskonstante zu kennen, indem eine Markov-Kette konstruiert wird, deren stationäre Verteilung genau π ist.

Grundprinzip ist, dass die Kette nach einer Anfangsphase sogenannte Burn-in-Periode Stichproben liefert, die die Zielverteilung approximieren. Dafür müssen die Kette irreduzibel, aperiodisch und ergodisch sein. Typische Modelle verwenden Abfolge von Zustandsänderungen, die sich stochastisch ergeben und so gewählt sind, dass die gewünschte Verteilung stabil wird. Beispiele für konkrete Algorithmen sind Metropolis-Hastings, Gibbs-Sampling, Hamiltonian Monte Carlo und Slice Sampling. Metropolis-Hastings erzeugt neue Zustände durch einen Vorschlag aus einer Vorschlagsverteilung und akzeptiert diese entsprechend der Akzeptanzwahrscheinlichkeit. Gibbs-Sampling ist eine spezielle Form, bei der jedes Mal eine vollständige bedingte Verteilung verwendet wird.

Vorteile von MCMC liegen in der Fähigkeit, komplexe, hochdimensionale Verteilungen zu handhaben und Modelle zu analysieren, bei denen eine analytische Normalisierung nicht praktikabel ist. Nachteile umfassen die Notwendigkeit sorgfältiger Parametrisierung und Diagnostik von Konvergenz, potenziell langsames Mischen und starke Autokorrelationen zwischen den Proben. Erweiterungen wie Adaptive MCMC, Parallel Tempering oder der No-U-Turn-Sampler (NUTS) verbessern Effizienz und Robustheit.

Anwendungen finden sich in der Bayesianen Inferenz, Physik, Biologie, Ökonomie und im maschinellen Lernen, wo MCMC bei der Posterior- oder Integrationsberechnung hilft. Historisch begann Metropolis 1953, erweitert durch Hastings 1970; Gibbs-Sampling kam in den 1980er Jahren hinzu, während HMC und NUTS später weite Verbreitung fanden.