Difuusiomallit

Difuusiomallit ovat generaattorimalleja, jotka oppivat tuottamaan uutta dataa palauttamalla kohinan pois todellisesta datasta. Ne rakentuvat eteenpäin suuntautuvalle diffuosioprosessille, jossa x0 muuttuu useissa vaiheissa yhä kohinaisemmaksi, sekä käänteiselle prosessille, jonka mallin parametrit opettelevat suorittamaan. Tämä käänteinen malli pyrkii arviomaan p_theta(x_{t-1} | x_t), jotta aloitus kohinasta x_T voidaan edetä vaihe kerrallaan kohti puhdasta x0. Yleisiä muotoja ovat denoising diffusion probabilistic models (DDPM) ja score-pohjaiset diffusion-mallit; jälkimmäisissä korostetaan kohinan pistemäistä arviota tai gradienttien ohjausta.

Opetuksessa kohinaa lisätään dataan systemaattisesti, ja malli oppii palauttamaan alkuperäisen signaalin mahdollisimman tarkasti annetusta kohinan tilasta. Käytössä ovat erilaiset tavoiterekisterit, kuten L_simple, L_VLB ja score-mallinnukseen perustuvat objective-tavat. Difuusiomallit voivat vaatia suuria datamääriä ja suurta laskentatehoa, mutta ne tarjoavat usein vahvan kyvyn mallintaa monimutkaisia jakaumia.

Näytteiden generointi tapahtuu aloittamalla x_T normaalijakautuneesta kohinasta ja suorittamalla useita käänteisiä vaiheita, jolloin syntyy x0. Diffuusiomallit ovat levinneet moniin sovelluksiin; ne tuottavat laadukkaita kuvia, ääntä ja videoita sekä voivat muokata käsitteitä ohjattuna esimerkiksi tekstikuvauksin. Latentit diffuusiomallit (latent diffusion models, LDM) käsittelevät kohinan piilotetussa tilassa, mikä nopeuttaa ja tehostaa generoimista. Diffuusiomallien käyttöön liittyy myös huomioita eettisyydestä, tekijänoikeuksista ja turvallisuudesta.

Historia ulottuu 2010-luvulle; varhaisia ideoita esittivät Sohl-Dickstein ja kollegat vuonna 2015, DDPM-mallit saivat laajaa huomiota 2020-luvulla, ja latenttien diffuusiomallien menestys toi esiin suuria, avoimesti jaettavia projekteja kuten Stable Diffusion.