FairnessBeschränkungen

FairnessBeschränkungen ist ein Konzept aus der Entscheidungsfindung und dem maschinellen Lernen, das darauf abzielt, dass ein Optimierungs- oder Entscheidungsprozess bestimmte Fairness-Anforderungen erfüllt, indem es Beschränkungen in die Formulierung integriert. Sie werden in Bereichen wie Kreditvergabe, Personalrekrutierung, Strafverfolgung sowie Ressourcenallokation angewendet, um Verzerrungen zwischen Gruppen zu vermeiden oder zu reduzieren.

Beschränkungen können als harte (unverrückbare) oder als weiche (mit Strafkosten in der Zielgröße) formuliert werden. Sie können als Gleichbehandlung von Gruppen (Gruppenfairness) oder als individuelle Fairness (Behandlung ähnlicher Individuen) verstanden werden. Häufige Fairness-Kriterien umfassen Demographic Parity, Equalized Odds und Equal Opportunity. Demographic Parity zielt darauf ab, dass die Quote positiver Entscheidungen über Gruppen hinweg gleich ist; Equalized Odds verlangt gleiche Fehlerraten, während Equal Opportunity Fokus auf gleiche True-Positive-Rate pro Gruppe legt.

Mathematisch kann dies durch Zusatzbedingungen in der Optimierung erfolgen, z.B. P(pred=positiv | Gruppe A) = P(pred=positiv | Gruppe B) oder durch Strafen in der Verlustfunktion. Praktische Umsetzung erfolgt oft über Vorverarbeitung der Daten, In-Processing-Methoden während des Lernens oder Nachverarbeitung der Entscheidungen.

Herausforderungen umfassen oft Trade-offs zwischen Fairness und Gesamtniveau der Genauigkeit, Konflikte zwischen verschiedenen Fairness-Kriterien, Abhängigkeit von Datenqualität und ethische sowie rechtliche Grenzziehungen. FairnessBeschränkungen bleiben ein aktives Forschungsgebiet mit wichtigen regulatorischen und gesellschaftlichen Implikationen.