dataongelijkheid

Dataongelijkheid verwijst naar ongelijke verdeling van data: de beschikbaarheid, kwaliteit en representativiteit van data die gebruikt worden voor analyses en besluitvorming. Het ontstaat wanneer sommige bevolkingsgroepen, regio's of sectoren ondergerapporteerd of onderbelicht zijn in datasets, of wanneer wet- en regelgeving beperkende omstandigheden opleggen. Gevolg is dat analyses en AI-systemen bevooroordeeld kunnen uitpakken en beslissingen minder representatief zijn voor de hele samenleving.

Dimensionen: geografisch, socio-economisch, en sectorieel. Globale en regionale kloof in data-infrastructuur, infrastructuur, en open data. Verstorende factoren zoals privacywetgeving, beperkte digitale infrastructuur, taalbarrières en gebrek aan verzamelingsstandaarden. Daarnaast variëren de data in kwaliteit en volledigheid, met ondervertegenwoordigde groepen die minder vaak voorkomen in datasets.

Implicaties: kan leiden tot oneerlijke uitkomsten in kredietwaardigheidsbeoordeling, werving, gezondheidszorg en strafrecht. Modellen getraind op onrepresentatieve data vertonen slechtere prestaties bij minderheidsgroepen, wat de ongelijkheid versterkt. Beleid en bedrijfsbeslissingen kunnen daardoor minder effectief zijn.

Mitigatie: verbeteren van inclusieve dataverzameling, harmonisatie van standaarden, en transparantie door datasheets voor datasets. auditeren op bias en prestaties over subgroepen, gebruik van privacybeschermende methoden en synthetische data waar noodzakelijk. Bevorderen van publiek toegankelijke data waar veilig en verantwoord, en versterkte governance, toezicht en verantwoording. Internationaal beleid en samenwerking kunnen dataongelijkheid verminderen.

Dataongelijkheid is een centraal vraagstuk in de discussie over AI-ethiek en digitale inclusie.