regressiomalli

Regressiomalli on tilastollinen malli, jonka avulla voidaan kuvata ja ennustaa riippuvan muuttujan arvoja selittävien muuttujien perusteella. Yksinkertaisessa regressiossa on yksi selittävä muuttuja ja yksi riippuva muuttuja; monimuuttujaregression tapauksessa selittäviä muuttujia on useita. Yleisimmin käytetty malli on lineaarinen regressio, jossa yhteys määritellään lineaarisella funktiolla. Muita malleja ovat polynomiaalinen regressio sekä ei-lineaariset mallit, kuten logistinen regressio, jota käytetään binäärisen tuloksen ennustamiseen, sekä muut yleiset tilastolliset mallit.

Regressiomallin kertoimet estimoidaan yleensä pienimmän neliösumman menetelmällä lineaarisissa malleissa. Ei-lineaarisissa tai yleisemmissä tilastollisissa malleissa kertoimet voidaan löytää maksimikertymien todennäköisyyden menetelmällä tai muilla optimoimilla menetelmillä. Mallin valinta ja sovittaminen sisältävät huolellisen muuttujien valinnan, mahdollisen muunnosten käytön sekä tulosten tulkinnan.

Oletukset ja arviointi: Lineaarisissa malleissa oletetaan lineaarinen yhteys, riippumattomat ja identtisesti jakautuneet virhetermien havainnot sekä usein homoskedastisuus ja normaalijako virheille. Mallin sovittavuutta arvioidaan esimerkiksi selitysasteella (R-squared) ja muokatussa R-squared-arvossa, sekä virheiden mittauksilla kuten RMSE tai MAE. Ennusteita tulkitaan luottamus-/ennusteskaaloilla, ja mallia voi tukea ristiinvalidaatiolla.

Käyttökohteet ja rajoitukset: Regressiomalleja käytetään muun muassa taloustieteissä, sosiaalitieteissä, insinööritieteissä ja data-analyysissä ennusteiden laadun parantamiseen. Ne ovat kuitenkin vain korrelaatioihin perustuvia malleja, eivät osoita syy-seuraussuhteita, ja ne voivat ylisovitua dataan sekä heikentyä extrapoloinnissa tai huonon datan tapauksessa.

Historia: Regressioanalyysi kehittyi 1800-luvulla Francis Galtonin ja Karl Pearsonin tutkimusten myötä, ja siitä on tullut keskeinen työkalu tilastotieteessä ja datatieteessä.