L1säännöllöinti

L1-säännöllöinti, tunnetaan myös nimellä Lasso-säännöllöinti, on tekniikka, jota käytetään koneoppimisessa ja tilastollisessa mallinnuksessa parantamaan mallin suorituskykyä ja estämään ylisovittumista. Se on eräänlainen regularisointimenetelmä, joka lisää mallin kustannusfunktioon rangaistustermin, joka perustuu mallin parametrien absoluuttisten arvojen summaan.

Tämä rangaistustermi kannustaa mallia käyttämään pienempiä painoarvoja parametreilleen. Erityisesti L1-säännöllöinti voi johtaa joidenkin mallin parametrien nollaantumiseen. Tämä ominaisuus tekee L1-säännöllöinnistä hyödyllisen piirteiden valinnassa, sillä se voi automaattisesti tunnistaa ja poistaa vähemmän tärkeitä piirteitä datasta.

L1-säännöllöintiä käytetään laajasti lineaarisissa malleissa, kuten lineaarisessa regressiossa ja logistisessa regressiossa, mutta sitä voidaan soveltaa myös muihin mallintyyppeihin. Sen etuna on sen kyky tuottaa harvoja malleja, jotka ovat helpompia tulkita ja jotka voivat toimia paremmin uudessa datassa, koska ne ovat vähemmän alttiita ylisovittumiselle harjoitusdatan kohinaan. Verrattuna L2-säännöllöintiin, joka pyrkii pienentämään kaikkia parametreja, mutta ei välttämättä nollaamaan niitä, L1-säännöllöinnin kyky nollata parametreja tekee siitä erityisen tehokkaan, kun datassa on paljon piirteitä ja vain pieni osa niistä on todella relevantteja.