validointidatalla

Validointidata tarkoittaa erillistä datakokonaisuutta, jota käytetään mallin suorituskyvyn arviointiin koulutusvaiheen aikana. Se on erotettu koulutusdatasta, jolla malli oppii, sekä testidatasta, jolla mitataan lopullinen suorituskyky. Validointidatan tarkoituksena on tarjota ei-koulutettuun dataan perustuva arvio mallin yleistyvyydestä sekä tukea hyperparametrien säätöä ja mallin valintaa ennen lopullista testausta.

Käytännössä validointidataa hyödynnetään useilla tavoilla. Yleisimmät menetelmät ovat hold-out-menetelmä, jossa osa datasta pidetään erillään koulutuksen arvioimista varten, sekä k-fold-ristiinvalidointi (cross-validation), jossa data jaetaan useaan osaan ja malli koulutetaan useita kertoja eri validointiosuuden avulla. Stratifioitu jakaminen, jossa luokkien edustavuus säilyy, voidaan soveltaa luokitustehtävissä.

Tärkeää on varmistaa, että validointidata on riittävän riippumaton koulutusdatasta, jotta tulokset eivät liioittele mallin todellista suorituskykyä. Tietovuoto (data leakage) on yleinen risk, esimerkiksi kun sama ominaisuus on käytössä sekä koulutuksessa että validoinnissa tai kun prosessointi kopioi tietoa datan molemmista osista. Kun validointitulos on riittävän vakaa, sitä käytetään mallin parametrien hienosäätöön ja mallin valintaan, ennen lopullista arviointia testidatan avulla.