onderfitten

Onderfitten is een term uit statistiek en machine learning die verwijst naar een model dat de onderliggende relatie in de data niet voldoende kan vastleggen, waardoor het zowel op de trainingsset als op de testset hoge fouten vertoont. Het is het tegenovergestelde van overfitting: het model is niet complex genoeg om patronen te leren.

Oorzaken van onderfitten zijn onder meer: een model dat te eenvoudig is (te weinig parameters of een te lage complexiteit), te sterke regularisatie, het ontbreken van relevante kenmerken of features die voldoende informatieve variatie bieden, of een beperkte en niet-representatieve trainingsset. Ook een verkeerde modelkeuze kan leiden tot onderfitten.

Signalen van onderfitten bestaan uit systematische bias en hoge fout op zowel de trainings- als de testdata. Voorbeelden zijn een lineair model dat een duidelijke niet-lineaire relatie niet kan volgen, of het gebruik van een te laag graadpolynoom om complexe patronen te modelleren. Sterke regularisatie kan eveneens tot onderfitten leiden.

Aanpak om onderfitten te verhelpen omvat het verhogen van de modelcomplexiteit of het toepassen van betere features en feature engineering (bijv. transformaties, interacties). Verminder indien nodig de regularisatie, verzamel meer of betere data, probeer andere modellen, en gebruik cross-validatie om de juiste bias-variance trade-off te vinden. Gebruik evaluatiemetrics zoals RMSE of MAE om voortgang te controleren.

Relatie met overfitting: onderfitten gaat gepaard met hoge bias en beperkte capaciteit, terwijl overfitting gekenmerkt wordt door lage bias maar hoge variance. Het doel is een gebalanceerd model met lage fout op zowel trainings- als testdata.