dimensionaliteitsreductie

Dimensionaliteitsreductie is het proces waarbij het aantal variabelen of kenmerken in een dataset wordt verminderd, terwijl zo veel mogelijk relevante informatie behouden blijft. Het doel is om de complexiteit van modellen te verminderen, rekenlast te verlagen en prestaties te verbeteren, terwijl data beter te visualiseren en te interpreteren is. Dimensionaliteitsreductie kan ongesupervised of gesupervised plaatsvinden en fungeert vaak als voorbewerking in data-analyse en machinaal leren.

Er zijn twee hoofdbenaderingen. Feature selectie kiest een subset van bestaande kenmerken die het meest informatief zijn voor een taak. Methoden omvatten filtertechnieken zoals correlatiemaatstaven of mutual information, wrapper-methoden zoals Recursive Feature Elimination en embedded methoden zoals Lasso of boomgebaseerde indicatoren. Feature extractie daarentegen transformeert de data naar een ruimte met minder dimensies. Voorbeelden zijn lineaire technieken zoals Principal Component Analysis (PCA) en Independent Component Analysis (ICA); niet-lineaire methoden zoals t-SNE, Isomap en UMAP; en leerbare representaties via autoencoders.

Toepassingen zijn onder meer data‑visualisatie van hoge dimensies in twee of drie dimensies, preprocessing voor machine learning-modellen, ruisonderdrukking en compressie. PCA geeft bijvoorbeeld een verklaarde variantie per component, terwijl t-SNE en UMAP vooral geschikt zijn voor exploratieve visualisatie van clusters en relaties. Bij supervised dimensionaliteitsreductie kan men rekening houden met de doelvariabele, bijvoorbeeld via Linear Discriminant Analysis (LDA).

Belangrijke overwegingen zijn informatieverlies, interpretatie van de wereldmodelledimensionale variabelen, en afhankelijkheid van doel en data. De keuze van methode, het gewenste aantal dimensies en hyperparameters beïnvloeden sterk prestaties en bruikbaarheid. Evaluatie gebeurt via reconstructie- of discriminatiestatistieken, of via visuele inspectie van de resulterende projecties.