Splineregressie

Splineregressie is een methode om de relatie tussen een onafhankelijke variabele en een afhankelijke variabele flexibel te modelleren met behulp van spline-functies. In plaats van één eenvoudige lineaire of polynomiale vorm wordt y gemodelleerd als een som van polynoomstukken die elk over een deel van het bereik van x gelden, met voorwaarden die zorgen voor gladheid bij de knooppunten (knots).

Knooppunten verdelen het domein van x in stukken. In elk stuk geldt een polynoom, en de voorwaarden zorgen ervoor dat de uiteindelijke functie en meestal haar eerste (en soms tweede) afgeleide continu zijn bij de knopen. De meest gebruikte vorm is de cubic spline, waarbij elk stuk een derdegraads polynoom is. Natural splines beperken de kromming in de randen door extra restricties. B-splines vormen een compacte, numeriek stabiele basis om splines te construeren, en P-splines combineren B-splines met een roughness-penalty om schokkerigheid te voorkomen.

Tijdens de schatting wordt y uitgedrukt als een lineaire combinatie van basisfuncties: y = sum_j β_j B_j(x) + ε. De onbekende coëfficiënten β_j worden meestal geschat met least squares of binnen GLM-context met maximale waarschijnlijkheid. Om overfitting te voorkomen kunnen penalized splines (P-splines) worden gebruikt, waarbij een strafterm op de gladheid van f(x) wordt toegevoegd. De keuze van het aantal en de locaties van knopen en de sterkte van de penalty λ gebeurt vaak via kruisvalidering of generalized cross-validation.

Voordelen zijn flexibiliteit en betere aanpassing aan nonlineariteit zonder een ingewikkelde parametertheorie. Nadelen zijn gevoeligheid voor knoopkeuze en mogelijk problematische extrapolatie buiten de data. Splineregressie vindt toepassing in statistiek, econometrie, biowetenschappen en datawetenschap. Implementaties bestaan in R (bijv. splines, mgcv) en Python (bijv. SplineTransformer in scikit-learn).