Denoisingdiffuosiomallit

Denoisingdiffuosiomallit ovat generatiivisia malleja, jotka luovat uutta dataa diffuusion avulla. Niissä mallinnetaan forward-prosessia, jossa data lisätään kohinaan useissa vaiheissa, sekä käänteistä prosessia, jossa kohina poistetaan vaiheittain. Kun kohina kertautuu, syntyy yhä enemmän kohinainen tila; malli oppii tämän käänteisen prosessin avulla tuottaa uusia esimerkkejä tai rekonstruoida puhtaita datapisteitä.

Oppiminen perustuu variatiivisen alimman rajan kautta tapahtuvaan todennäköisyyden maksimointiin. Malli, usein neuroverkko kuten U-net, oppii p_theta(x_{t-1}|x_t) ennustamaan seuraavan puhdistetun askeleen tai lisätyn kohinan. Harjoitus käyttää erilaisia häviöfunktioita, kuten L_simple tai L_VLB, ja hyödyntää useita aikavälejä T.

Näytteiden tuottaminen aloitetaan yleensä täysin kohinasta x_T ja kuljetaan kohti x_0:aa käänteisessä prosessissa. Arkkitehtuurit ovat tyypillisesti konvoluutionopeilla varustettuja verkkoja (esim. U-net), ja aikakonteksti otetaan huomioon ajastinmerkintöjen avulla. Erilaiset variantit, kuten DDIM ja latent diffusion -mallit, tarjoavat nopeamman tai eri tavoin kontrolloidun näytteenoton.

Denoisingdiffuosiomallit liittyvät läheisesti score-based malleihin ja stokastiin diffuaseihin sekä jatkuviin aikakäyriin pohjautuvaan SDE-lähestymistapaan. Ensimmäiset diffuusiomallit esiteltiin 2015, ja 2020-luvulla ne saavuttivat merkittävän laadun ja ohjattavuuden erityisesti latenttien tilojen kautta.

Sovellukset kattavat kuvat, ääni ja video sekä tehtävät kuten text-to-image, in painting ja super-resolution. Ne tarjoavat vakaamman koulutuksen ja ohjauksen, mutta vaativat suuria laskentaresursseja ja suuria datamääriä, ja näytteiden hidas generointi voi rajoittaa käyttöönottoa.