hyperparametreihin

Hyperparametreihin, tai hyperparametreihin, ovat koneoppimismallin asetuksia, joita ei opeteta datasta. Sen sijaan ne asetetaan ennen mallin koulutusta. Hyperparametrien valinta vaikuttaa merkittävästi mallin suorituskykyyn.

Esimerkkejä hyperparametreistä ovat oppimisnopeus, neuroverkon piilokerrosten määrä ja yksiköiden määrä kussakin kerroksessa, regularisointiparametrit ja koneoppimismenetelmän ytimen tyyppi.

Hyperparametrien viritys on prosessi, jossa etsitään optimaalista joukkoa hyperparametrejä tietylle ongelmalle ja datalle. Tämä tehdään yleensä kokeilemalla erilaisia hyperparametrejä ja arvioimalla kunkin yhdistelmän suorituskykyä validoinnin tai ristiinvalidointiin avulla. Yleisiä hyperparametrien viritystekniikoita ovat ruudukko-haku, satunnaishaku ja Bayesilainen optimointi.

Oikeiden hyperparametrien valinta voi parantaa merkittävästi mallin tarkkuutta, yleistymiskykyä ja koulutusaikaa. Huonosti valitut hyperparametrit voivat johtaa alioppimiseen tai ylioppimiseen, jolloin malli ei toimi hyvin uusilla tiedoilla. Hyperparametrien viritys on siis olennainen osa koneoppimistyönkulkua.