Kvadratfeil

Kvadratfeil er et mål på avvik mellom observerte verdier og modellens prediksjoner i statistikk og maskinlæring. For et sett av n datapunkter er kvadratfeilen for punkt i definert som e_i^2 = (y_i − ŷ_i)^2, der y_i er den observerte verdien og ŷ_i er modellens prediksjon. Den totale kvadratfeilen er Σ e_i^2, og ofte brukes gjennomsnittlig kvadratfeil (MSE) = (1/n) Σ e_i^2. Kvadratfeil representerer hvor langt hver prediksjon ligger fra faktisk verdi, målt i kvadrerte enheter av y.

Den praktiske betydningen av kvadratfeil ligger i regresjon og minste kvadraters metode. Minste kvadraters metode søker parametervariasjoner som minimerer MSE under visse forutsetninger (for eksempel lineær modell og normalt fordelt feilledd). I maskinlæring brukes L2-tap, eller kvadratfeil, som tapfunksjon for regresjonsoppgaver, og gradientene brukes under optimering for å justere modellparametrene.

Egenskaper og hensyn: Kvadratfeil er alltid ikke-negativ og er differensierbar med hensyn til prediksjonene. Den gjør feilen følsom for uteliggere, siden store avvik forsterkes ved kvadrering. Dette gjør kvadratfeil mindre robust sammenlignet med absoluttfeil (L1) eller andre robuste tapfunksjoner som Huber-tap. Som mål er MSE i kvadrerte enheter, mens RMSE (root mean squared error) har samme enhet som y og ofte er lettere å tolke.

Anvendelser inkluderer evaluering av prediksjonsnøyaktighet i regresjon, tidsserier og ulike maskinlæringsmodeller.