regressionvirheitä

Regressiovirheitä ovat havaintojen todellisten arvojen ja regressiomallin ennustamien arvojen väliset erot. Tämä ero tunnetaan yleisesti jäännöksenä. Mallin tarkoituksena on minimoida näiden virheiden kokonaismäärä, jotta sekä ennusteet että vaikutusarviot olisivat mahdollisimman luotettavia. Jäännöksen voi määritellä e_i = Y_i − Ŷ_i, missä Y_i on havaittu arvo ja Ŷ_i mallin ennuste.

Regressiovirheitä syntyy useista syistä: malli voi olla väärin muotoiltu tai sen selittäjät puuttuvat (mallin puute), muuttujien mittausvirheet voivat vaikuttaa sekä Y:hin että X:iin; otannan valinnasta johtuvat virheet sekä satunnaiset poikkeamat. Lisäksi epälineaarisuus, heteroskedastisuus tai ajallinen tai ryhmäperusteinen riippuvuus jäännöksissä voivat viitata oletusten rikkomiseen.

Seuraukset riippuvat siitä, miten virheet ilmenevät. OLS-estimaattorit voivat olla johdonmukaisia, mutta epätyypilliset virheet voivat johtaa vinoviin koeffisienttien estimaatteihin, virheellisiin p-arvoihin ja heikentyneeseen ennustettavuuteen. Jäännösten visuaalinen tarkastelu (hajontakaavio, QQ-plot) sekä testit epälineaarisuudelle, heteroskedastisuudelle ja riippuvuudelle auttavat diagnoosissa.

Korjaus- ja ehkäisukeinot: lisätään relevantteja muuttujia, harkitaan muodonmuutoksia tai ei-lineaarista rakennetta; käytetään robustia regressiota tai virheisiin liittyviä malleja (errors-in-variables) sekä heteroskedastisuus-robusteja standardivirheitä; cross-validationin tai bootstrappingin avulla arvioidaan ennustavaa virhettä; säännöllistetty regression (regularization) voi parantaa vakautta, kun oireet johtuvat liian monista muuttujista.