dropouttekniikoita
Dropouttekniikat ovat säännöllistämisen menetelmiä, joita käytetään erityisesti neuroverkoissa ylisuuren oppimisen ja heikon yleistymisen vähentämiseksi. Peruside on, että koulutuksen aikana satunnaisesti poissuljetaan yksiköitä (neuroneita) verkosta todennäköisyydellä p. Tämä pakottaa verkon oppimaan robustimpia edustuksia eikä riippuvuuksia yksittäisistä yhteyksistä. Testausvaiheessa poiston ei enää tehdä, vaan verkon aktivointeja tai painojen vaikutusta skaalataan siten, että odotusarvo voidaan olettaa säilyvän.
Yleisimmät dropout-variantit. Bernoulli-dropout on perinteisin muoto, jossa kukin yksikkö on käytössä vain osan ajasta. Gaussian-dropout sen
Käytännön huomioita. Dropoutin vaikutus voi vaihdella arkkitehtuurin ja optimoijan mukaan; esimerkiksi batch normalizationin kanssa dropoutin ajoittaminen