Dimensionenreduktion

Dimensionenreduktion bezeichnet Verfahren zur Verringerung der Merkmalsanzahl in Datensätzen, wobei zentrale Strukturen oder Informationen möglichst erhalten bleiben. Ziel ist es, die Komplexität zu verringern, die Rechenlast zu senken, Rauschen zu reduzieren und die Visualisierung oder das Lernen zu erleichtern.

Man unterscheidet zwischen Feature Selection, bei der vorhandene Merkmale selektiv beibehalten werden, und Feature Extraction, bei der aus den ursprünglichen Merkmalen neue, kompaktere Merkmale durch Transformation erzeugt werden. Produkte können unsupervised oder supervised erfolgen und linear oder nichtlinear sein.

Zu den linearen Methoden gehören Principal Component Analysis (PCA), die Hauptkomponenten anhand der Varianz bestimmt, sowie Factor Analysis. Nichtlineare Methoden umfassen MDS, Isomap, Local Linear Embedding (LLE), t-Distributed Stochastic Neighbor Embedding (t-SNE) und Uniform Manifold Approximation and Projection (UMAP). Tiefergehende Modelle nutzen Autoencoder oder Variational Autoencoders.

Anwendungen umfassen die Visualisierung von hochdimensionalen Daten in 2D oder 3D, die Vorverarbeitung für maschinelles Lernen, Rauschreduktion und Datenkompression. Sie finden Anwendung in Bereichen wie Genomik, Bildverarbeitung und Textanalyse.

Bewertung erfolgt oft anhand der erklärten Varianz (bei PCA), Rekonstruktionsfehler, Beibehaltung von Paarabständen oder topologischen Eigenschaften sowie Kennzahlen wie Trustworthiness oder Continuity in manifold-learning-Ansätzen.

Herausforderungen sind die Wahl der Zieldimension, Interpretierbarkeit der reduzierten Repräsentationen, Rechenaufwand sowie potenzielle Verzerrungen oder Informationsverluste, die zu über- oder unterbewerteten Mustern führen können.