Parametreistä

Parametreistä tarkoitetaan malleissa käytettäviä arvoja, jotka määrittelevät sen, miten malli reagoi syötteisiin tai miten ilmiö suhteutuu dataan. Parametrit ovat yleensä kiinteitä mallin käytön aikana, ja ne voivat olla tuntemattomia tai epävarmoja. Esimerkiksi lineaarisessa mallissa y = β0 + β1 x, β0 ja β1 ovat parametreja, joiden arvoja pyritään arvaamaan aineiston perusteella. Toisin kuin muuttujat, joiden arvot voivat vaihdella havaintojen mukaan, parametrit kuvaavat yleistä suhdetta.

Parametrien arvoja ei tiedetä etukäteen ja ne muodostavat mallin tilan, eli parameter space. Mallin identifioitavuus tarkoittaa, että eri parametriyhdistelmät voivat johtaa samanlaiseen käyttäytymiseen; tällöin parametreja ei voi erottaa pelkän datan perusteella. Parametreihin liittyy usein myös ns. nuisancen parametreja, jotka ovat tärkeitä malleissa mutta joiden arvo ei ole mielenkiinnon kohde.

Estimointi kohdistuu näiden arvojen määrittämiseen. Yleisiä menetelmiä ovat pienimmän neliösumman menetelmä linearisissa malleissa ja maksimien todennäköisyyden estimointi (MLE) muissa malleissa. Bayesilaisessa lähestymistavassa parametreja pidetään jakaumina, ja ne päivitetään tiedon myötä prioreista kohti posterioreja. Mallin ennusteet ja parametriarvioiden epävarmuus esitetään luottamusvälillä tai posteriorijakaumana.

Parametreja sovelletaan monilla aloilla: matematiikassa ja tilastotieteessä ne määrittelevät yhteyksiä; fysiikassa ne voivat vastata mittauksia tai mallin ominaisuuksia; koneoppimisessa mallioppivat parametrit kuten painot verkossa. Keskeinen käsite on hyperparametrit, jotka määrittävät oppimisalgoritmin toimintaa eikä suoraan mallin data-tuloksia.