residualvektoren

Residualvektoren er forskjellen mellom observerte verdier og modellens forutsigelser i et gitt statistisk eller numerisk modellsett. I en lineær modell y = Xβ + ε er residualvektoren r definert som r = y − ŷ, der ŷ = Xβ̂ og β̂ er minste kvadraters estimat av β.

I lineær regresjon er β̂ gitt av β̂ = (X^T X)^{-1} X^T y når X har full kolonnevis rang. Residualvektoren har egenskapen at X^T r = 0, altså er den ortogonal til kolonnene i X. Lengden ||r||^2 kalles residualsum av kvadrater (RSS), og minste kvadraters metode minimerer denne verdien. Sammen med total sum of squares (TSS) gir RSS uttrykket R^2 = 1 − RSS/TSS, som beskriver hvor stor andel av variasjonen i dataene modellen forklarer.

Residualvektoren brukes bredt i diagnostikk av modelltilpasning. Ved å plotte residualene mot forklaringsvariablene eller mot tid kan man oppdage mønstre som tyder på modellfeil, heteroskedastisitet eller avvik (outliers). Standardiserte eller studentiserte residualer hjelper med å identifisere bemerkelsesverdige datapunkter og influerende observasjoner. Generelt sett er residualvektoren verktøy for å vurdere om modellens antagelser holder, og for å guide forbedringer av modellen.

Begrepet gjelder også i ikke-lineær regresjon og andre minste kvadraters tilnærminger, der residualene defineres analogt. Under rimelige antakelser har residualvektoren forventet verdi 0 og varians σ^2(I − H), der H er projeksjonssymbolet på kolonneplassrommet til X.