ResamplingStrategien

Resampling-Strategien, auch Resampling-Verfahren genannt, bezeichnen Verfahren in Statistik und maschinellem Lernen, die aus wiederholtem Ziehen von Stichproben aus einem vorhandenen Datensatz neue Trainings- und Testmengen erzeugen. Ziel ist es, die Stabilität von Schätzungen, die Generalisierbarkeit von Modellen oder die Verteilung von Kennwerten besser abzuschätzen. Im Gegensatz zu rein festen Aufteilungen verwenden diese Methoden mehrere Datenaufteilungen, um Stichprobenvariabilität abzubilden.

Zu den bekanntesten Resampling-Strategien gehören Kreuzvalidierung (z. B. K-Fold, Stratified K-Fold), Leave-One-Out und Monte-Carlo-Cross-Validation. Beim Bootstrap werden Stichproben mit Zurücklegen aus dem Datensatz gezogen und daraus mehrere Modelle trainiert; aus der Verteilung der Ergebnisse lassen sich Konfidenzintervalle und Bias-Schätzungen ableiten. Jackknife ist eine weitere Methode, bei der jeweils eine Beobachtung entfernt wird, um die Stabilität von Schätzern zu prüfen.

Für zeitabhängige Daten gelten spezialisierte Ansätze, die die Reihenfolge beibehalten, etwa rolling-origin- oder rolling-window-Methoden; hier wird die zeitliche Abfolge respektiert, um unrealistische Datensplits zu vermeiden. Stratified Resampling bewahrt in Klassenungleichverteilungen vorhandene Anteile, was insbesondere bei unausgeglichenen Datensätzen wichtig ist.

Anwendung finden Resampling-Strategien vor allem in der Validierung von Modellen, beim Hyperparameter-Tuning, der Einschätzung der Unsicherheit von Kennwerten sowie bei der Stabilitätsanalyse von Feature-Selektionsverfahren. Wichtige Entscheidungen betreffen die Wahl der Strategie, die Anzahl der Folds oder Bootstrap-Stichproben sowie die Berücksichtigung von Berechnungskosten.

Siehe auch: Kreuzvalidierung, Bootstrap, Jackknife, Zeitreihen-Validierung.