Bayeselmélet

Bayeselmélet egy olyan valószínűségi megközelítés a bizonytalanság modellezésére, amely a kiinduló, a priori ismereteket és az új adatokból származó információt egységesen kezeli. A központi eszköz a Bayes-tétel: a paraméterek vagy állapotok posterior valószínűsége P(θ|D) arányos a valószínűségszorozat P(D|θ) és a prior P(θ) szorzatával, azaz P(θ|D) = P(D|θ)P(θ) / P(D). A priorkitűzés a kezdeti bizonytalanságot írja le, a megfigyelt adatok alapján a posterior a frissített hiedelmet adja meg, míg az evidencia P(D) a normalizálást szolgál.

Az elmélet lehetőséget ad a modellek közötti összehasonlításra Bayes-tényezők segítségével, és lehetővé teszi a bizonytalanság kvantifikálását. Konjugált priorokkal egyszerűbbé válhat a számítás (például Beta-prior a Binomiálishoz, Gamma-prior a Poissonhoz, Normál-priorok a Normál adatokhoz). Komplex modellek esetén gyakran numerikus módszerekre van szükség: Markov-lánc Monte Carlo (MCMC), Gibbs-sampling, Metropolis–Hastings vagy variációs Bayes módszerek, amelyekkel a posterior megközelíthető.

Historikusan Thomas Bayes munkássága és Laplace fejlesztése adta az alapokat. A Bayes-elmélet ma a statisztikában, a gépi tanulásban és a tudományos bizonytalanság kezelésében széles körben alkalmazható. Előnyei közé tartozik a bizonytalanság elemzése és a folyamatos tanulási képesség; kritikái között szerepel a priorkimenetek szubjektivitása és a számítási igények.