Gegevens over etniciteit kunnen juist helpen om een discriminatie door algoritmes te voorkomen. Zo laten Hekkelman et al. zien dat selectie-algoritmes deze gegevens kunnen gebruiken om te borgen dat de samenstelling van de uitkomstgroep op het gebied van etniciteit weinig verschilt van de samenstelling in de populatie. De mate van afwijking die acceptabel is, blijft een subjectieve kwestie, waar een discussie aan vooraf dient te gaan. En het weglaten van gevoelige informatie, zoals etniciteit, werkt niet. Andere variabelen kunnen namelijk gecorreleerd zijn met etniciteit, waardoor er toch indirect op wordt geselecteerd. Door de etniciteit weg te laten, zou je juist het zicht kunnen verliezen op een onwenselijke discriminatie.
Hekkelman, B., M. Kattenberg en B. Scheer (2023) Rechtvaardige algoritmes. CPB Publicatie, juli.
Auteur
Categorieën