Maksimijakauman

Maksimijakauman käsite viittaa tilastotieteellisessä mielessä periaatteeseen, jonka mukaan tiettyä muuttujaa koskeva jakauma tulisi valita niin, että jokin ennalta määritelty kriteeri on maksimoituina rajoitteiden puitteissa. Kyse ei ole yhdestä yksittäisestä jakaumasta, vaan menetelmästä tai periaatteesta, jolla voidaan muodostaa jakaumia erilaisilla soveltuvilla rajoitteilla.

Yleisessä muodossa maksimoidaan esimerkiksi entropia tai muu informaatiokriiteeri ottaen huomioon normaalitkin rajoitteet, kuten normalization (∫ f(x) dx = 1) ja momenttifunktiot (esim. ∫ f(x) g_i(x) dx = c_i). Käytännössä ratkaisu saadaan usein käyttämällä Lagrange-multiplereita, mikä johtaa eksponentiaalisen perheen jakaumaan: f(x) ∝ exp(-λ0 - λ1 g1(x) - ... - λk gk(x)). Tämä tarjoaa joustavan kehyksen erilaisille jakaumille riippuen siitä, mitä tietoja rajoitteiksi annetaan.

Entropian maksimointi on yksi yleisimmistä maksimaalisen jakauman sovelluksista. Jos rajoitteina ovat esimerkiksi jakauman tuki ja normaalit momentit, tuloksena on usein tietyntyyppinen tunnettu jakauma, kuten uniformi tukiolosuhteissa tai normaalijakauma, kun kyse on keskiarvosta ja varianssista. Maksimijakauman periaatetta sovelletaan laajasti informaatioteoriassa, tilastotieteessä, ekonometriassa ja fysikaalisessa statistiikassa.

Historian osalta periaatetta kehittelivät ja popularisoivat erityisesti E. T. Jaynes, ja sitä hyödynnetään laajasti tehdyissä päätöksenteko- ja tiedonkäsittelyongelmissä. Maailmanlaajuisesti maksimaalisen entropian periaate toimii yleisenä ohjenuorana, kun halutaan oletuksia vähentävällä tavalla muodostaa epävarmuutta kuvastavia jakaumia.