L2säännöllistämisessä

L2-säännöllistämisessä, joka tunnetaan myös nimellä L2-regularization tai Ridge regression, on koneoppimisen tekniikka, jota käytetään mallin ylisovittamisen estämiseen. Se toimii lisäämällä mallin kustannusfunktioon rangaistustermin, joka perustuu mallin painojen neliösummaan. Tämä rangaistus kannustaa mallia käyttämään pienempiä painoja, mikä vähentää sen herkkyyttä yksittäisille datapisteille ja parantaa sen yleistyskykyä uuteen dataan.

Tarkemmin sanottuna L2-säännöllistämisessä lisätään kustannusfunktioon termi $\lambda \sum_{i=1}^n w_i^2$, missä $w_i$ ovat mallin painoja ja $\lambda$ on säännöllistämisparametrin, joka säätelee rangaistuksen voimakkuutta. Suurempi $\lambda$-arvo johtaa pienempiin painoihin ja siten yksinkertaisempaan malliin. L2-säännöllistämisessä painot pienenevät kohti nollaa, mutta eivät yleensä saavuta sitä täysin. Tämä johtaa "pehmeään" säännöllistämiseen, jossa kaikki piirteet voivat edelleen vaikuttaa ennusteeseen, vaikkakin eri painoilla.

L2-säännöllistämistä käytetään yleisesti lineaarisissa malleissa, kuten lineaarisessa regressiossa ja logistisessa regressiossa, mutta sitä voidaan soveltaa myös monimutkaisempiin malleihin, kuten neuroverkkoihin. Se on tehokas tapa parantaa mallien robustisuutta ja estää niitä ylisovittamasta koulutusdataa. Ylisovittamisen välttäminen on olennaista, jotta malli pystyy tekemään luotettavia ennusteita uusille, ennennäkemättömille datoille.