Sekoitusmallin

Sekoitusmalli on tilastollinen malli, jossa havaintoja pidetään useamman komponentin jakaumien sekoituksena. Jokaisella havainnolla on piilossa oleva komponentti z_i, jonka arvo on yksi, ja havainto x_i riippuu tästä komponentista. Malli voidaan kirjoittaa p(x) = sum_{k=1}^K pi_k f_k(x), missä pi_k on komponentin paino (summan pi_k tulee olla 1) ja f_k on kunkin komponentin tiheysfunktio. Jos komponentit ovat normaalijakaumia, kyseessä on Gaussian mixture model (GMM).

Estimointi voidaan tehdä maksimaalisen todennäköisyyden menetelmällä tai Bayesin menetelmillä. Yleisin laskentamenetelmä on EM-algoritmi: E-vaiheessa lasketaan vastuut r_ik = P(z_i=k | x_i; theta) ja M-vaiheessa päivitetään pi_k sekä kunkin komponentin parametrit theta_k sen mukaan.

Mallin valinta ja sovellukset: Komponenttien lukumäärä K voidaan-valita AIC:n, BIC:n tai ristikkäistarkastelun perusteella. Sekoitusmalleja käytetään klusterointiin, tiheysarviointiin, puuttuvien tietojen täydennykseen sekä poikkeavuuksien havaitsemiseen. Malli soveltuu erityisesti heterogeenisen ja monimutkaisen datan kuvaamiseen.

Rajoitteet ja huomioitavaa: Mallin identifioitavuus voi olla ongelmallista, erityisesti jos komponentit ovat samankaltaisia tai K on suuri. Lisäksi malli antaa paras tuloksen vain, jos valittu komponenttijakauma vastaa todellista jakaumaa. Se on kuitenkin yleinen käsite tilastossa ja monissa sovelluksissa.