kruisvalideratie

Kruisvalideratie, in het Engels cross-validation, is een statistische methode om de generalisatieprestatie van een voorspellend model te beoordelen. Daarbij wordt de beschikbare dataset herhaaldelijk opgesplitst in trainings- en validatieonderdelen, zodat de prestaties van het model op gegevens die het niet heeft gezien kunnen worden geschat.

De meest gangbare vorm is k-fold kruisvalidatie, waarbij de data in k gelijke delen wordt verdeeld. In elke iteratie wordt één deel als validatie gebruikt en de overige k-1 delen als training; dit wordt herhaald totdat elk deel eenmaal als validatie is gebruikt. Stratified k-fold houdt rekening met de verdeling van de doelvariabele, wat nuttig is bij onbalans tussen klassen.

Er bestaan ook Leave-One-Out cross-validation (LOOCV), waarbij per iteratie één voorbeeld wordt gebruikt voor validatie en de rest voor training, en herhaalde kruisvalidatie waarbij het proces meerdere malen met verschillende verdelingen wordt uitgevoerd. Voor tijdreeksen bestaan aangepaste vormen, zoals forward chaining of rolling-origin evaluatie, die de volgorde van de data respecteren.

Doel en toepassingen: kruisvalidatie levert een schatting van de generalisatieprestatie en wordt veel gebruikt voor modelselectie en hyperparameterafstemming. Bij het tunen van hyperparameters wordt vaak nested cross-validation toegepast om bias te voorkomen. Voordelen zijn minder variantie in prestatiemeting en betere vergelijkingen tussen modellen; nadelen zijn vooral de hogere computationele kosten en het feit dat het nog steeds een schatting is en geen vervanging voor een onafhankelijk testset. Ook vereist het voldoende data en geschikte verdelingen.

Samengevat is kruisvalidatie een centrale techniek in statistiek en machine learning om robuuste inschattingen van modelprestaties te verkrijgen, vooral bij beperkte datasets en wanneer modellen vergeleken moeten worden.