Posteriorijakaumat

Posteriorijakaumat ovat tilastollisia jakaumia, jotka kuvaavat tuntemattomien parametrien todennäköisyysjakaumaa havaintojen perusteella Bayesin menetelmässä. Kun D koostuu havainnoista ja θ on malli-parametri, posteriorijakauma on p(θ|D) = [p(D|θ) p(θ)] / p(D), missä p(θ) on priorijakauma ja p(D|θ) on todennäköisyysfunktio (likelihood). Marginaalinen todennäköisyys p(D) varmistaa jakauman normaalin muodostumisen: p(D) = ∫ p(D|θ) p(θ) dθ.

Konjugoituvat priorijakaumat antavat suljetun muodon posteriorijakaumalle. Esimerkkejä: Beta-prior ja Binomial-likelihood johtavat Beta-posteriorijakaumaan; Gamma-prior ja Poisson-likelihood johtavat Gamma-posteriorijakaumaan; Normal-prior ja Normal-likelihood voivat johtaa Normal-posteriorijakaumaan (kun varianssi on tunnettu tai tietyt oletukset täyttyvät).

Posteriorijakauma mahdollistaa uskomusten päivittämisen: siitä saadaan esimerkiksi odotusarvo, mediaani sekä uskottavuusväli (credible interval). Posterioin ennustettava jakauma puolestaan antaa ennusteita uusille havainnoille: p(y_new|D) = ∫ p(y_new|θ) p(θ|D) dθ.

Monimutkaisissa malleissa tai ei-konjugoituneissa tapauksissa ei ole suljettuja ratkaisuja. Tällöin käytetään numeerisia menetelmiä kuten Markov-ketjukäyrän Monte Carlo -menetelmiä (MCMC), esimerkiksi Gibbs-sampling tai Metropolis-Hastings, tai variatiivista inferenceä.

Posteriorijakaumia käytetään sekä parametrien estimointiin että mallien vertailuun Bayes-faktoreiden tai marginaalisen todennäköisyyden avulla. Posteriot ovat herkkiä priors-valinnalle ja mallin oletuksille, erityisesti pienellä datalla, joten herkkyysanalyysit ovat yleisiä.