Regresjonsfeil

Regresjonsfeil, ofte omtalt som residualer, er avviket mellom den observerte verdien y og den verdien modellen predikerer ŷ i en regresjonsanalyse. For en enkel lineær regresjon er residualen e = y − ŷ. Feilen representerer den delen av variasjonen i y som ikke blir forklart av de forklaringsvariablene som brukes i modellen.

Formålet med å analysere regresjonsfeil er å vurdere modellens egnethet og pålitelighet. Hvis residualene viser et tydelig mønster, kan det tyde på at modellen ikke fanger nødvendige sammenhenger, at antagelser ikke holder eller at det er systematiske feil i dataene.

Vanlige mål for regresjonsfeil inkluderer sum av kvadrerte residualer (SSE), gjennomsnittlig kvadratfeil (MSE), roten av MSE (RMSE) og gjennomsnittlig absolutt feil (MAE). Disse målene måler hvor mye modellen avviker fra observerte verdier i gjennomsnitt, og de brukes til å sammenligne modeller og vurdere prediksjonsnøyaktighet.

Kilder til regresjonsfeil kan være modellspesifikasjon (for eksempel feil form antatt forhold mellom variabler), målefeil i dataene, outliers, små utvalg, heteroskedastisitet eller autokorrelasjon. Feil kan også oppstå ved overfitting, der modellen fanger støy i treningsdataene i stedet for underliggende mønstre, noe som ofte gir dårlig generalisering.

Praktisk arbeid med regresjonsfeil innebærer residualanalyse: undersøkelse av fordeling og varians av residualene, tester for normalitet og homoskedastisitet, samt identifikasjon av outliers. Basert på funnene kan man justere modellen, transformere data eller velge alternative modeller for bedre prediksjon og pålitelighet.