L1säännöllistäminen

L1 säännöllistäminen, joka tunnetaan myös nimellä Lasso-säännöllistäminen, on yleisesti käytetty tekniikka koneoppimisessa ja tilastotieteessä mallien ylisovittumisen estämiseksi ja piirteiden valitsemiseksi. Se kuuluu regularisointimenetelmien ryhmään, jotka lisäävät kustannusfunktioon rangaistustermin. L1 säännöllistäminen käyttää kustannusfunktion lisäyksenä mallin parametrien absoluuttisten arvojen summaa kerrottuna säännöllistämisparametrin, lambdan, arvolla.

Tämän rangaistustermin vaikutus on se, että se pyrkii pienentämään mallin parametrien arvoja kohti nollaa. Oleellista L1 säännöllistämisessä on, että se voi muuttaa joitakin mallin parametrien arvoja täsmälleen nollaksi. Tämä johtuu siitä, että nollan lähellä oleva rangaistus on suhteellisen suuri verrattuna rangaistukseen muilla alueilla. Kun parametri asetetaan nollaksi, vastaava piirre poistuu käytännössä mallista, mikä tekee L1 säännöllistämisestä tehokkaan työkalun automaattiseen piirteiden valintaan. Malli keskittyy silloin olennaisimpiin ennustaviin tekijöihin.

L1 säännöllistämistä käytetään erityisesti tilanteissa, joissa piirteitä on paljon ja on todennäköistä, että vain osa niistä on merkityksellisiä. Se auttaa parantamaan mallin yleistettävyyttä, eli sen kykyä tehdä tarkkoja ennusteita uudesta, näkemättömästä datasta, ja tekemään mallista helpommin tulkittavan. Säännöllistämisparametrin lambda arvon valinta on tärkeää; liian suuri lambda-arvo voi johtaa liialliseen säännöllistämiseen ja mallin alisuorittumiseen, kun taas liian pieni arvo ei tarjoa riittävää suojaa ylisovittumista vastaan.