MarkovChainMonteCarloMethoden

MarkovChainMonteCarloMethoden (MCMC) sind eine Klasse von Algorithmen zur Probenziehung aus Wahrscheinlichkeitsverteilungen, insbesondere aus posterioren Verteilungen in der Bayesianischen Statistik. Ziel ist es, Proben aus einer komplexen Zielverteilung zu ziehen, deren Normalisierung oft unbekannt oder schwer zu berechnen ist, indem man eine Markov-Kette konstruiert, deren stationäre Verteilung die Zielverteilung ist.

Die Kette wird schrittweise fortgeführt: Man schlägt einen neuen Zustand vor und akzeptiert oder verwirft ihn gemäß einer Akzeptanzregel, so dass die Kette die Zielverteilung ergodisch erreicht. Typische Algorithmen sind Metropolis-Hastings, Gibbs-Sampling und Varianten wie Hamiltonian Monte Carlo. Diese Methoden benötigen oft nur unnormierte Dichten und nutzen Rekursionsbeziehungen.

Anwendungen liegen vor allem in der Bayesianischen Inferenz, wo Posterior-Verteilungen durch Integrale gewonnen werden, die in hohen Dimensionen analytisch nicht lösbar sind. MCMC ermöglicht Schätzungen von Mittelwerten, Varianzen, Wahrscheinlichkeitsmassen und Modellvergleichen, sowie die Quantifizierung von Unsicherheit in komplexen Modellen.

Diagnostik und Praxis betreffen Konvergenzdiagnosen (z. B. Gelman-Rubin, Trace-Plots), die Bestimmung der Burn-in-Periode und die Bewertung der effektiven Stichprobengröße. Schwierigkeiten entstehen bei langsamer Mixing, multimodalen Verteilungen oder hohen Dimensionen. Oft sind Anpassung der Vorschläge oder adaptive MCMC-Techniken erforderlich.

Erweiterungen und Einschränkungen umfassen adaptive MCMC, Parallel Tempering sowie No-U-Turn-Sampler (NUTS), eine Variante von Hamiltonian Monte Carlo. Vorteile liegen in der Flexibilität und Robustheit gegenüber komplexen Verteilungen, während Nachteile Rechenaufwand, Abhängigkeit von Tuning und Diagnoseschwierigkeiten sein können.