Kaotusefunktsioonid

Kaotusefunktsioonid, tuntud ka kui kulufunktsioonid või veafunktsioonid, on masinõppes ja statistilises modelleerimises põhikontseptsioon. Need funktsioonid kvantifitseerivad mudeli prognooside ja tegelike, täheldatud väärtuste vahelist erinevust. Teisisõnu, kaotusefunktsioon mõõdab, kui "halb" on mudeli jõudlus konkreetse andmepunkti või andmekogumi puhul. Treeningprotsessi ajal on eesmärk minimeerida kaotusefunktsioon, et parandada mudeli täpsust ja üldist jõudlust.

Valik kaotusefunktsiooni üle sõltub sageli probleemi tüübist. Regressiooniprobleemide, kus ennustatakse pidevat väärtust, tavalised kaotusefunktsioonid hõlmavad keskmist ruutviga (Mean Squared Error, MSE) ja keskmist absoluutviga (Mean Absolute Error, MAE). MSE mõõdab keskmist ruuduviga kõigi andmepunktide vahel, samas kui MAE mõõdab keskmist absoluutviga. Klassifitseerimisprobleemide, kus ennustatakse kategoorilist väljundit, populaarsed kaotusefunktsioonid on rist-entroopia kaotus (Cross-Entropy Loss) ja hinge kaotus (Hinge Loss). Rist-entroopia kaotus mõõdab prognoositud ja tegelike jaotuste erinevust, samas kui hinge kaotus on tavaliselt kasutusel tugivektorite masinates (SVM).

Kaotusefunktsiooni määravad hästi optimeerimisalgoritmid, nagu gradientlaskumine, mudeli parameetrite kohandamiseks. Mida madalam on kaotusefunktsiooni väärtus, seda paremini mudel andmeid sobitab ja seda suurem on tõenäosus, et see teeb täpseid prognoose uute, nägemata andmete kohta.