biasvarianceafvejning

Biasvarianceafvejning refererer til balancen mellem bias og varians i statistiske modeller og estimationsmetoder og er central for modellens generaliseringsevne.

Bias betegner den gennemsnitlige afvigelse mellem modellens forudsete værdier og de sande værdier. Det måles ofte som squared bias i forventningen. En model med høj bias er for simpel og underviser mønstre i data (underfitting) og opfanger ikke forholdene i træningsdataet.

Varians betegner hvor meget modellens forudsigelser varierer, når den trænes på forskellige træningsdatasæt. En model med høj varians reagerer voldsomt på små ændringer i data og har tendens til overfitting, hvilket giver dårlig generalisering til nye data.

Generalisering fejl kan traditionelt opdeles i bias^2, varians og støj (irreducible). Biasvarianceafvejningen beskriver ofte en kompromis: at reducere bias kan øge varians og omvendt. Det rette balance afhænger af problemstillingen, datamængden og støjniveauet i data.

Praktiske tilgange til at styre afvejningen inkluderer valg af modelfamilie, regulering (for eksempel Ridge/Lasso), krydsvalidering for at estimere generalisering, og brug af ensembles som bagging (reducerer varians) og boosting (kan reducere bias). Learning curves og featuresudvælgelse kan hjælpe med at identificere om problemet domineres af bias eller varians.

Sammenfattende er biasvarianceafvejningen et centralt begreb i maskinlæring og statistik, der guider valg af modeller og træningsstrategier for at opnå god generalisering til ukendte data.