Kahjumifunktsioon

Kahjumifunktsioon on masinõppes ja statistikaprogrammides kasutatav funktsioon, mis määrab mudeli prognoosi ja tegeliku väärtuse vahelise sobivuse suuruse ehk vea. Selle eesmärk on anda mudelile kvantitatiivne trahv, mida minimeerides püüab mudel parandada oma prognoose. Kahjumifunktsioon on sageli nõutud omadus koolituse optimeerimises, kus eesmärk on leida parim mudel, mis vähendab keskmist kahju kogu treeningandmestikus.

Kõige tavalisemad kahjumitüübid hõlmavad nii regressiooni kui klassifikatsiooni ülesandeid. Ruutviga ehk L2-kahjum on L2(y, f) = (y - f)^2, kus y on tegelik väärtus ja f on mudeli prognoos. Absoluutviga ehk L1-kahjum on L1(y, f) = |y - f|. Ristentropia ehk cross-entropy on laialdaselt kasutatav klassifikatsiooni puhul: binaarne ristentropia L(y, p) = -[ y log(p) + (1 - y) log(1 - p) ], kus p on prognoositud tõenäosus, ja mitmeme klassi puhul generaliseeritakse see summeerides üle klasside. Hinge kahjum, mida kasutavad tugevdavad masinad, on veel üks levinud võimalus; sellel on omadused, mis soodustavad suurte vigu korral suurimaid karistusparameetreid.

Kasutus ja omadused mängivad olulist rolli. Kahjumifunktsioonid on sageli diferentseeruvad ja mõnel juhul konveksed, mis lihtsustab optimeerimist gradientide abil. Kahjumi valik mõjutab tundlikkust välja hiilisuslike andmete suhtes ja sobivust mudeli jaoks konkreetse ülesande, andmestiku ja eelseisva rakenduse kontekstis. Näiteks L2 on tundlikum väljaheitele, L1 on robustsem, ristentropia sobib tõenäosuste prognoosimisele ning hinge kahjum sobib marginaalipõhiste piirangute korral.