häviöfunktiot

Häviöfunktio, tunnetaan myös nimellä kustannusfunktio tai virhefunktio, on keskeinen käsite koneoppimisessa ja optimoinnissa. Se mittaa mallin ennustusten ja todellisten arvojen välistä eroa. Tavoitteena mallin koulutuksessa on minimoida tämä häviöfunktio, jotta malli pystyy tekemään tarkempia ennustuksia.

Eri tehtäviin ja mallityyppeihin liittyy erilaisia häviöfunktioita. Esimerkiksi regressio-ongelmissa, joissa ennustetaan jatkuvaa arvoa, yleisiä häviöfunktioita ovat keskineliövirhe (Mean Squared Error, MSE) ja keskimääräinen absoluuttinen virhe (Mean Absolute Error, MAE). MSE laskee ennustusten ja todellisten arvojen erotusten neliöiden keskiarvon, kun taas MAE käyttää absoluuttisia erotuksia.

Luokitteluongelmissa, joissa malli ennustaa kategorista luokkaa, käytetään tyypillisesti ristiin-entropiaa (Cross-Entropy) tai log-häviötä (Log Loss). Nämä funktiot mittaavat todennäköisyysjakaumien samankaltaisuutta ja rankaisevat mallia voimakkaasti, kun se tekee varmoja vääriä ennustuksia.

Häviöfunktion valinta riippuu ongelman luonteesta, datan ominaisuuksista ja halutusta mallin käyttäytymisestä. Optimointialgoritmit, kuten gradienttilasku, käyttävät häviöfunktion derivaattaa ohjatakseen mallin parametrien säätämistä kohti pienempää häviötä.