överanpassning

Överanpassning, eller överfitting, är ett fel i statistisk modellering där en modell fångar mönster i träningsdata som inte är allmängiltiga. Modellen lär sig slumpmässiga variationer och brus i datamängden, vilket gör att den presterar mycket bra på träningsdata men försämras vid ny eller testdata. Överanpassning uppstår oftast när modellens komplexitet är större än vad datavolymen och variationen tillåter.

Tecken på överanpassning inkluderar en stor skillnad mellan träningens fel och valideringens fel; låg felgrad på träningssettet men snabbt stigande fel på en oberoende uppsättning. Det beror ofta på hög modellkomplexitet, många funktioner eller parametrar, och/eller små dataset där brus och przypadningar blir viktiga för modellen.

Hur överanpassning riskerar generalisering: modellen fångar specifika detaljer i träningsdata som inte återfinns i verkliga tillämpningar, vilket leder till osäkra eller felaktiga förutsägelser när modellen används på ny data. Detta påverkar framför allt prediktionskonsistens och beslutstöd i praktiska sammanhang.

Förebyggande och åtgärder inkluderar korskontroll eller validering för att bedöma generalisering, regelbundenhet som L1- eller L2-reglarisering, tidig stopp i träningsprocessen, enklare modeller eller urval av funktioner, samt att samla fler data eller använda dataaugmentering. Ensemblemetoder och pruning kan också minska överanpassning genom att reducera varians.

Sammanfattningsvis är målet att hitta en modell som fångar relevanta relationer utan att memorera brus, vilket uppnås genom balanserad modellkomplexitet och robust utvärdering.