parametriestimointia

Parametriestimointi on prosessi, jossa pyritään määrittämään matemaattisen mallin tuntemattomat parametrit havaintoja käyttäen. Sillä on keskeinen rooli tilastotieteessä, fysiikassa, biotieteissä ja taloustieteissä. Malli esitetään usein muodossa y_i = f(x_i, theta) + ε_i, jossa x_i on selittäviä muuttujia, theta on estimaattava parameterivektori ja ε_i on satunnaisvirhe, jonka ominaisuudet kuvataan tehtävän mukaan.

Parametriestimoinnissa etsitään sellaiset theta-arvot, jotka parhaiten selittävät havainnot. Yleisiä menetelmiä ovat pienimmän neliösumman menetelmä (least squares, LS), maksimiluotettavuuden menetelmä (maximum likelihood, MLE) sekä Bayesin menetelmät. Lineaarisissa malleissa LS voi antaa suljetun ratkaisun; epälineaarisissa malleissa ratkaisut ovat usein iteratiivisia ja käytetään algoritmeja kuten Gauss-Newton tai Levenberg–Marquardt.

Estimoinnissa on tärkeää tarkastella identifioitavuutta: rakenteellinen identifiointi ja käytännön identifiointi kertovat, voidaanko parametreja luotettavasti erottaa havaintoista. Myös virhejakaumien ja riippuvuuksien oletukset vaikuttavat arvioiden luotettavuuteen.

Mallin arviointi ja sovitusarviointi perustuvat hyvyyden mittareihin, residuaalianalyysiin sekä tilastollisiin mittareihin kuten AIC tai BIC. Ristiinvalidaatio voi tarjota lisätietoa ennustettavuudesta. Säännöllistäminen (regularization) kuten ridge- tai Lasso- menetelmiä käytetään, kun malli on riittävän epävarma tai data on identifioituva ongelma, tai kun halutaan välttää liiallista monimutkaisuutta.

Parametriestimointi yhdistää tilastolliset menetelmät, matemaattisenmallinnuksen ja datan laadun huomioidaan käytännön sovelluksissa.