Bayesianmenetelmiä

Bayesianmenetelmät ovat tilastollisia lähestymistapoja, joissa epävarmuus käsitellään todennäköisyyksinä ja päivittäinen inferenssi perustuu Bayesin lauseeseen. Keskeiset käsitteet ovat priorijakauma, todennäköisyysmallin likelihood ja posteriorijakauma. Bayesin lauseen mukaan posteriori on suhteessa likelihoodiin ja prioriin, eli posteriori ∝ likelihood × prior, ja todellinen posteriorijakauma saadaan jakamalla kohdearvo normaalointivakiimalla (evidence).

Bayesianmenetelmät kattavat inferenssin, mallinnuksen ja päätöksenteon. Tavoitteena on määritellä posteriorijakauma ja sen kautta arvioida parametreja, ennustaa uusia havaintoja sekä kartoittaa epävarmuutta. Tavanomaisia aihealueita ovat hierarkiset mallit, Bayesin mallinnuksen valinta (Bayesin faktoreiden avulla) sekä ei-parametrinen Bayes-lähestymistapa (esim. Dirichlet-prosessi, Gaussin prosessi).

Laskennallisesti posterioria ei usein saada analyyttisesti, minkä vuoksi käytetään tekniikoita kuten Markov-ketjutumismenetelmiä (MCMC; esimerkkeinä Gibbs-sampling ja Metropolis-Hastings) sekä variational inferencea. Näiden avulla voidaan tuottaa näytteitä tai tiivistää posteriorin muotoa.

Bayesin menetelmiä sovelletaan laajasti luonnontieteissä, lääketieteessä, taloustieteessä sekä koneoppimisessa. Niiden etuja ovat kyky sisällyttää aiempaa tietoa ja tarjota epävarmuuden sekä ennusteiden kuvaus, kun taas haasteita ovat laskennalliset kustannukset, prioreiden valinnan herkkyys sekä tulkinnan vaikeudet monimutkaisissa malleissa.