Verteilungsverschiebungen

Verteilungsverschiebungen bezeichnet in der Statistik und im Maschinellen Lernen Abweichungen zwischen der Verteilung der Daten, die zum Trainieren eines Modells verwendet wurden, und der Verteilung, die in der Praxis auftreten kann. Typisch geht es um Unterschiede in P(X) oder P(Y|X) zwischen Trainings- und Einsatzdaten. Solche Verschiebungen können die Modellleistung erheblich beeinträchtigen, da Annahmen über die gemeinsame Verteilung verletzt werden.

Formen umfassen Covariate Shift (Veränderung von P(X) bei unveränderter P(Y|X)), Label Shift (Veränderung von P(Y) bei unveränderter P(X|Y)) und Concept Drift (Veränderung der Beziehung zwischen X und Y über die Zeit, sodass sich P(Y|X) verändert). Jede Form hat unterschiedliche Auswirkungen auf das Verhalten eines Modells und erfordert verschiedene Gegenmaßnahmen.

Ursachen sind Veränderungen im Datenerfassungsprozess, in der Population, in Sensoren oder im Einsatzumfeld sowie zeitliche Entwicklungen. Neue Untergruppen oder geänderte Messprozesse führen zu Verschiebungen, ebenso wie Systemaktualisierungen oder wechselnde Umgebungen.

Auswirkungen sind oft eine Verschlechterung der Vorhersagegenauigkeit, eine schlechtere Kalibrierung und potenziell verzerrte Entscheidungen. Die Erkennung erfolgt durch Drift-Messungen wie den Population Stability Index (PSI), Kolmogorov-Smirnov-Tests oder Divergenzmaße zwischen Verteilungen sowie durch kontinuierliches Monitoring der Modellleistung.

Gegenmaßnahmen umfassen Reweighting oder Importance Sampling, Domänenanpassung, regelmäßiges Retraining oder Online-Learning, robuste Modelle und Kalibrierung der Ausgaben. Lebenslanges Lernen, Validierung unter wechselnden Bedingungen und klare Governance für Modellaktualisierungen unterstützen den Umgang mit Verteilungsverschiebungen.