autoregressiivisia

Autoregressiivisia tarkoittaa yleisesti tilastollisia malleja ja prosesseja, joissa nykyarvo X_t muodostuu aikaisempien arvojen X_{t-1}, X_{t-2}, … sekä satunnaisesta virheestä ε_t. Malleja käytetään sekä aikaisarjojen analyysissä että erilaisten järjestelmien ennustamisessa, missä menneisyys vaikuttaa tulevaan.

Yleisin muodollinen esimerkki on autoregressiivinen malli AR(p): X_t = c + φ_1 X_{t-1} + … + φ_p X_{t-p} + ε_t, missä ε_t on valkoinen melu ja φ_i ovat parametreja. AR-malli on stabiili, jos sen karakteristinen polynomi ei omaa juuria yksikköryhmän sisällä. Parametrien estimointi toteutetaan usein Yule-Walker -menetelmällä, maksimissaan todennäköisyyden mukaan tai Burgin menetelmällä. Mallin valintaa helpottavat tiedetään käytettävät kriteerit kuten AIC tai BIC.

Informaatioteorian ja koneoppimisen alueilla autoregressiiviset mallit viittaavat myös malleihin, joissa lausekkeen todennäköisyys tai seuraava sana ennustetaan edeltävien kontekstin perusteella. Kielimallien tapauksessa P(X_1, …, X_T) jaetaan tuotteen muodossa P(X_t | X_1, …, X_{t-1}) ja koulutetaan suurilla tekstiaineistoilla maksimoimalla todennäköisyys.

Sovelluksissa autoregressiivisia malleja käytetään talous- ja ilmastotieteen ennusteissa, rahoituksessa, signaalinkäsittelyssä sekä nykyään laajasti kielimalleissa ja puheentuotannossa. Mallien etuja ovat tulkittavuus ja yksinkertaisuus, mutta ne voivat vaatia stationaarisuutta, niukat parametrit voivat johtaa ali- tai ylikoulutukseen, ja oikean orderin valinta on tärkeä.