Valideringsförlusten

Valideringsförlusten, ofta kallad valideringsförlust, är ett mått på hur väl en maskininlärningsmodell presterar på en separat valideringsuppsättning som inte användes vid träningsfasen. Förlusten beräknas som medelvärdet av förlustfunktionen över alla exempel i valideringsuppsättningen. Den används som en proxy för modellens generalisering till nya data.

Vid träningen beräknas vanligtvis både träningsförlust och valideringsförlust. Förlustfunktionen kan vara korsentropi vid klassificering eller medelkvadratfel vid regression, bland andra; vilket mått som används beror på problemet. Valideringsförlusten fungerar som en indikator på hur bra modellen sannolikt kommer att prestera på osedda data, och den styr ofta val av hyperparametrar.

En vanlig användning är tidig stopp: träningen avbryts när valideringsförlusten inte längre förbättras, trots fortsatt förbättring av träningsförlusten. Om valideringsförlusten minskar under träningen men senare börjar öka medan träningsförlusten fortsätter att sjunka indikerar det överanpassning till träningsdata.

Det är viktigt att valideringsförlusten speglar en representativ datafördelning och att det inte uppstår data leakage eller distributionsskifte mellan tränings- och valideringsuppsättningen. Valideringsförlusten kan kompletteras med andra mått som valideringsnoggrannhet eller R2, men är i grunden ett mått på hur väl modellen generaliserar söta data.

För att minska valideringsförlusten används strategier som ökad mängd data, dataaugmentation, regularisering (L1/L2, dropout), enklare modell, bättre preprocessing och korsvalidering samt noggrann hyperparameteroptimering. Vanliga fallgropar inkluderar otillräcklig representativitet och felaktig split av data.