L2säännöllöinnin

L2-säännöllöinti, tunnetaan myös nimellä Ridge-regressio, on lineaarinen malli, joka lisää rangaistustermin mallin kustannusfunktioon. Tämä rangaistustermi on lineaarisen regressiokertoimien neliöiden summa kerrottuna säännöllistämisparametrin (yleensä merkitty lambda tai alfa) tulolla. Tavoitteena on vähentää mallin varianssia ja estää ylisovittumista, erityisesti tilanteissa, joissa selittäviä muuttujia on paljon suhteessa havaintojen määrään.

Rangaistustermin lisääminen saa mallin pyrkimään pienempiin kertoimiin. Kun lambda-arvo on nolla, L2-säännöllöinti vastaa tavallista pienimmän neliösumman regressiota. Suuremmat lambda-arvot pienentävät kertoimia enemmän, mikä voi johtaa siihen, että jotkin kertoimet lähestyvät nollaa, mutta eivät yleensä tule täsmälleen nollaksi. Tämä eroaa L1-säännöllöinnistä (Lasso), joka voi nollata kertoimia ja siten suorittaa muuttujien valintaa.

L2-säännöllöinnin etuna on sen matemaattinen yksinkertaisuus ja se, että se tarjoaa vakaan ratkaisun myös silloin, kun selittävät muuttujat ovat vahvasti korreloituneita. Säännöllistämisparametrin lambda valinta tapahtuu yleensä ristivalidoinnilla. Sopiva lambda-arvo tasapainottaa mallin suorituskykyä harjoitusdatassa ja sen kykyä yleistää uuteen dataan. Se on yleinen menetelmä koneoppimisessa ja tilastollisessa mallinnuksessa monimuuttujaisissa tilanteissa.