KlassenGewichte

KlassenGewichte, im Englischen oft als class weights bezeichnet, sind Gewichtungsfaktoren, die während des Trainings maschineller Lernmodelle auf Klassenebene anwenden, um Ungleichgewichte der Klassenverteilung auszugleichen. Sie beeinflussen, wie stark Fehler in verschiedenen Klassen zur Optimierung beitragen.

Durch die Gewichtung wird verhindert, dass Modelle die Dominanz der Mehrheitsklasse dominiert, und Minderheitenklassen erhalten bei der Optimierung proportional mehr Aufmerksamkeit. Typischer Einsatz ist die Anpassung der Verlustfunktion, etwa der Kreuzentropie, damit Fehlklassifikationen seltener Klassen stärker bestraft werden.

Berechnung: Eine gängige Wahl ist w_i = N / (k · n_i), wobei N die Gesamtzahl der Beispiele, k die Anzahl der Klassen und n_i die Anzahl der Beispiele der Klasse i ist. Alternativ wird w_i = 1 / n_i oder eine modifizierte Version verwendet.

Anwendungsbereiche: In vielen Frameworks lässt sich das Gewichtungsprofil in Loss-Funktionen oder beim Fit-Aufruf integrieren. In PyTorch wird ein Gewichtungsvektor in die Verlustfunktion gegeben; scikit-learn bietet compute_class_weight; Keras/TensorFlow erlaubt class_weight oder sample_weight.

Vorteile und Risiken: KlassenGewichte verbessern die Berücksichtigung von Minderheitenklassen und können Metriken wie F1-Score bei unausgeglichenen Datensätzen erhöhen. Risiken sind instabile Lernprozesse bei zu hohen Gewichten, Verzerrung der Modellprioritäten und Abhängigkeit von der Annahme korrekter Klassenverteilungen.

Alternativen oder Ergänzungen umfassen Datenaufbereitung durch Resampling (SMOTE, Unter-/Oversampling), kosten-sensitives Lernen oder der Einsatz spezialisierter Verlustfunktionen wie Focal Loss.