Discriminatieindices

Discriminatieindices is een term die verwijst naar kwantitatieve maten die worden gebruikt om de mate en aanwezigheid van discriminatie tussen groepen in uitkomsten te meten. Ze worden toegepast in audits, onderzoek en beleidsevaluatie om verschillen in behandeling te kwantificeren en te beoordelen of meldingen van ongelijkheid gerechtvaardigd zijn of mogelijk biased procedures weerspiegelen.

Veel gebruikte vormen zijn verschillen in uitkomsten (risk difference) en verhoudingen zoals relatieve risico’s (risk ratio) en odds ratio. Een verwante maat is de disparate impact-ratio, die de verhouding aangeeft van de kans op een voordelige uitkomst voor een beschermde groep ten opzichte van een onbeschermde groep. Concepten zoals statistische gelijke behandeling (statistical parity) beschrijven situaties waarin deze uitkomsten gelijktijdig gelijk zijn over groepen; afwijkingen leveren een discriminatie-index op. In fairness- en algoritmische contexten komen ook indices voor zoals gelijke foutenmarges (equalized odds) en voorspellende parity (predictive parity).

Berekening en interpretatie: discriminatieindices vereisen duidelijke definities van uitkomsten en groepslabels. Ze zijn gevoelig voor basale kansen (base rates) en kunnen worden beïnvloed door confounders. Het is essentieel om relevante covariaten te controleren en om discriminatie te onderscheiden van legitieme verschillen in risico of gelegenheid. Potentiële beperkingen zijn onder meer gevoeligheid voor steekproefomvang, selectie-bias en ecologische fout (ecological fallacy) bij gebruik van geaggregeerde data.

Toepassingen: ze worden gebruikt door onderzoekers, toezichthouders en beleidsmakers om naleving van anti-discriminatie te controleren en beleid te verbeteren. Ook vormen ze een basis voor fairness-assessments in algoritmes voor werving, kredietscores en andere besluiten. Zie ook: disparate impact, gelijke kansen, fairness in machine learning.