lossfunktio
Lossfunktio, tai tappiofunktio, on mittari, jolla mitataan mallin ennusteiden ja todellisten arvojen välistä eroa. Se toimii koulutuksessa optimoinnin tavoitteena: malli pyrkii minimoimaan tappion, jolloin sen ennusteet paranevat koulutusdatalla. Tappio voi kertoa virheen suuruuden tai epäonnistumisen vakavuuden ja se voi olla määritelty per näyte tai koko erä (minimoidaan keskiarvo tai summa).
Lossfunktioita valitaan tehtävän mukaan. Esimerkkejä:
- MSE (mean squared error) – käytetty erityisesti regressiossa; suuret virheet korostuvat neliöidysti.
- MAE (mean absolute error) – robustimpi ääriarvoille kuin MSE; ei perusmität korkeita kärsimyksiä.
- Cross-entropy tai log loss – luokitusmalleissa, mittaa todennäköisyyksien epävarmuutta ja vertaa ennusteiden jakaumaa todelliseen luokkaan.
- Hinge loss – käytössä tuki-vektori- koneissa (SVM) sekä joissakin luokitusmalleissa.
- Huber loss – yhdistää MSE:n ja MAE:n ominaisuuksia, hieman robustimpi.
- KL-divergence – lähinnä todennäköisyysjakaumien erot, usein probabilististen mallien tappiona.
Ominaisuudet ja käytäntöjä: tappio voi olla per näyte tai koko erä, ja se voidaan laskea summina tai
Tappio-ohjaus vaikuttaa training-dynamiikkaan, gradienttien saatavuuteen ja lopulta mallin suorituskykyyn uudella datalla.