regulaatioparametrillä

Regulaatioparametri on termi, jota käytetään useilla eri aloilla, erityisesti koneoppimisessa ja tilastollisessa mallintamisessa. Sen ensisijainen tehtävä on hallita mallin monimutkaisuutta ja estää ylisovittumista eli ilmiötä, jossa malli oppii liikaa harjoitusdatasta eikä yleisty hyvin uuteen, tuntemattomaan dataan.

Koneoppimisessa regulaatioparametrit, kuten L1- ja L2-säännöllistys, lisätään mallin häviöfunktioon. Nämä lisäykset kasvattavat kustannusta, kun mallin painokertoimet ovat suuria. Pienemmät painokertoimet johtavat yleensä yksinkertaisempaan malliin, jolla on parempi yleistyskyky. Regulaatioparametrin arvo määrittää, kuinka voimakkaasti tämä regularisointi vaikuttaa. Pieni regulaatioparametri antaa mallin painokertoimien kasvaa enemmän, kun taas suuri arvo pakottaa ne pysymään lähellä nollaa. Sopivan regulaatioparametrin valinta on ratkaisevaa mallin suorituskyvyn kannalta ja tapahtuu usein validointidatan avulla.

Tilastollisessa mallintamisessa vastaava käsite liittyy mallin valintaan ja monimutkaisuuden kontrollointiin. Regulaatioparametrin avulla pyritään löytämään optimaalinen tasapaino mallin sopivuuden ja sen yksinkertaisuuden välillä.