regressioonimudelis

Regressioonimudel on statistiline mudel, mis kirjeldab sõltuva muutuja Y ning ühe või mitme sõltumatu muutuja X vahelisi seoseid ning mille põhieesmärk on Y hinnata või ennustada ning hinnata X-de mõju. Erinevaid vorme on sõltuvusjoone olemuselt; kõige levinum on lineaarne regressioon, kus Y = beta0 + beta1 X1 + ... + betap Xp + e, kus e on juhuslik jääk. Mitte-lineaarseid või mitmekülgseid seoseid kirjeldatakse näiteks polünoomide, spline'ide või üldiste lineaarsete mudelite (GLM) kaudu ning hõlmavad ka logistilist regressiooni klassifikatsiooniga.

Estimeerimine hõlmab erinevaid meetodeid. Kõige tavalisem on tavaline ruutide minimeerimine (OLS), mis leppib maksimaalse tõenäosuse või jääkide ruuduga. Vajadusel rakendatakse penaliseeritud regressiooni – ridge, lasso või elastic net – et vähendada liigselt keerukust ja kontrollida multikolinearsust. Robustsete standardhälvete ja cross-validation abil hinnatakse mudeli usaldusväärsust ja üldistamist.

Eeldused hõlmavad lineaarset seost (või sobivat transformatsiooni), jääkide iid ja normaaljaotust inferentsi jaoks, homoscedasticust (stabiilne viga), ning puudumist täielikust multikolinearsusest. Mudelit hinnates kontrollitakse residualide käitumist ja mitteolevaid kõrvalekaldeid ning vajadusel kasutatakse diagnostikat (VIF, residuumid, mõjutavad punktid).

Regressioonimudeleid rakendatakse laialdaselt majanduses, sotsioloogias, biostatistikas ja inseneriteadustes. Piirangutena tuleb meeles pidada, et seosed võivad olla korrelatiivsed, mitte kausalised, ning extrapolatsioon kaugematesse väärtustesse võib olla ebausaldusväärne.