Ylisovittuminen

Ylisovittuminen, yleisesti kutsuttu myös ylisovitus, on tilastollisen mallin tai koneoppimismenetelmän ilmiö, jossa malli oppii koulutusdatassa esiintyvää satunnaista vaihtelua liikaa. Tämän seurauksena malli sopii hyvin koulutusdataan, mutta sen yleistyminen uusille, näkemättömille aineistoille heikkenee.

Ilmiö ilmenee usein siten, että koulutusdatalla saavutettu suoritus on korkea, kun taas validointi- tai testidatalla suoritukset ovat huomattavasti heikommat. Ylisovittuminen esiintyy erityisesti silloin, kun malli on liian monimutkainen suhteessa käytettävissä olevaan dataan, esimerkiksi korkean asteen polynomien, syvien neuroverkkojen tai runsaiden ominaisuuksien käytöllä pienessä datamassa.

Ylisovittumisen taustalla voi olla useita syitä. Liian monimutkainen malli verrattuna käytettävissä olevaan datamäärään, liiallinen ominaisuuksien määrä, meluisat tai vinoutuneet tiedot sekä mahdollinen datan vuoto, jolloin malli tallentaa ei-toivottuja tietoja. Datan puutteet ja epäedustavuus sekä puutteellinen esikäsittely voivat lisätä riskin.

Ehkäisy ja diagnosointi perustuvat huolelliseen evaluointiin ja ennaltaehkäiseviin käytäntöihin. Tähän kuuluvat harjoitus- ja validoijaryhmän pitäminen erillään, ristiinvalidointi (cross-validation), sekä mallin komplikaation rajoittaminen regularisoinnilla (L1- tai L2-säännöllistäminen), varhaisella pysäytyksellä, karsinnalla ja ominaisuuksien valinnalla. Myös pienentäminen tai yksinkertaistaminen sekä datan määrän ja laadun parantaminen auttavat yleisyyden parantamisessa. Ylisovittumista voidaan myös seurata oppimiskäyrien avulla.

Ylisovittuminen on yleinen haaste, joka liittyy taitavasti tasapainossa olevaan mallin kykyyn yleistää opittua. Sen ymmärtäminen ja hallinta ovat keskeisiä keinoja saavuttaa luotettavat ennusteet uusilla datoilla.