Överfitning

Överfitning, på engelska overfitting, är ett fenomen inom maskininlärning där en modell presterar mycket bra på träningsdata men dåligt på ny, osedd data. Detta inträffar när modellen lär sig de specifika detaljerna och bruset i träningsdatan istället för de underliggande mönstren som generaliserar till nya observationer. En överanpassad modell har i princip memorerat träningsdata snarare än att lära sig av den.

Symtom på överfitning inkluderar en stor klyfta mellan modellens prestanda på träningsdata och dess prestanda på validerings- eller testdata. Om träningsfelet är mycket lågt men testfelet är högt, är överfitning sannolikt orsaken. Detta kan bero på att modellen är för komplex för datamängden, att träningsdatan är otillräcklig, eller att träningen pågår för länge.

För att motverka överfitning används olika tekniker. Dessa inkluderar att använda mer träningsdata, förenkla modellen (till exempel genom att minska antalet parametrar eller använda enklare algoritmer), använda regulariseringstekniker som L1 eller L2 regularisering, eller tidig avslutning av träningen när prestandan på valideringsdata börjar försämras. Korsvalidering är också en viktig metod för att uppskatta modellens generaliseringsförmåga och upptäcka överfitning. Målet är alltid att hitta en balans där modellen fångar de relevanta mönstren utan att bli för bunden till den specifika träningsdatan.