L1säännöllöinnillä

L1-säännöllöinti, joka tunnetaan myös nimellä LASSO-regressio (Least Absolute Shrinkage and Selection Operator), on lineaarisessa regressiossa käytetty menetelmä, joka lisää rangaistustermin mallin häviöfunktioon. Tämä rangaistustermi on verrannollinen mallin kertoimien absoluuttisten arvojen summaan. Matematiikassa tämä voidaan esittää seuraavasti:

Minimoi(||y - Xw||^2 + λ * ||w||_1)

missä y on kohdemuuttuja, X on selittävien muuttujien matriisi, w ovat mallin kertoimet, ||.||^2 on neliösumma, ||.||_1 on L1-normi (kertoimien absoluuttisten arvojen summa) ja λ on säännöllistämisparametri, joka säätelee rangaistuksen voimakkuutta.

L1-säännöllöinnin keskeinen ominaisuus on sen kyky suorittaa muuttujien valintaa. Koska rangaistustermi suosii pieniä kertoimia, se voi ajaa joidenkin kertoimien arvot tarkalleen nollaan. Tämä tarkoittaa, että muuttujat, joiden kertoimet ovat nollautuneet, jätetään pois lopullisesta mallista. Tämä tekee L1-säännöllöinnistä hyödyllisen silloin, kun käsitellään suuria määrää selittäviä muuttujia ja halutaan yksinkertaisempi ja tulkittavampi malli.

Toisin kuin L2-säännöllöinti (Ridge-regressio), joka pienentää kertoimia kohti nollaa mutta ei yleensä aseta niitä tarkasti nollaan, L1-säännöllöinti voi tehokkaasti poistaa irrelevanteiksi katsottuja muuttujia. Tämä on erityisen hyödyllistä tilanteissa, joissa ennustettavuuden lisäksi mallin tulkittavuus on tärkeää, tai kun tausta-aineistossa on paljon keskenään korreloivia muuttujia.