L2säännöllöinnissä

L2-säännöllöinti, tunnetaan myös nimellä Ridge-regressio tai Tikhonov-säännöllöinti, on menetelmä koneoppimisessa ja tilastotieteessä, jota käytetään yleistyskyvyn parantamiseen ja ylisovittamisen (overfitting) estämiseen regressiomallissa. Se on muunnelma tavallisesta pienimmän neliösumman regressiosta.

Ydinidea L2-säännöllöinnissä on lisätä mallin kustannusfunktioon (loss function) termi, joka rankaisee suurista mallin parametrien (painokertoimien) arvoista. Tämä lisätty termi on painokertoimien neliöiden summa kerrottuna säännöllistämisparametrin, lambdan (λ), avulla. Lambdan arvo määrittää, kuinka voimakkaasti suurten painokertoimien käyttöä rangaistaan.

Matemaattisesti L2-säännöllöity kustannusfunktio on muotoa: J(θ) = MSE(θ) + λ * Σ(θ_i)^2, missä MSE(θ) on tavallinen keskineliövirhe, θ ovat mallin painokertoimet ja λ on säännöllistämisparametri. Optimoinnin aikana pyritään minimoimaan tämä yhdistetty kustannusfunktio.

L2-säännöllöinnin vaikutuksesta painokertoimet pienenevät kohti nollaa, mutta ne eivät yleensä tule täsmälleen nollaksi. Tämä johtaa sileämpiin malleihin, jotka ovat vähemmän herkkiä yksittäisille datapisteille ja siten yleistyvät paremmin uuteen dataan. Se on erityisen hyödyllinen tilanteissa, joissa on paljon selittäviä muuttujia tai kun muuttujien välillä on multikollineaarisuutta.