Gevoelige gegevens verwerken om discriminatie door AI tegen te gaan?

Mag een organisatie testen of haar AI-systeem sollicitanten met een bepaalde etniciteit onterecht discrimineert? In ieder geval stuit je op een probleem: de organisatie kent de etniciteit van haar sollicitanten vaak niet. In beginsel verbiedt de AVG het gebruik van bepaalde categorieën gevoelige persoonsgegevens, waaronder etniciteit. Moet er een uitzondering worden opgenomen in de wet? Frederik Zuiderveen Borgesius en Marvin van Bekkum van de Radboud Universiteit Nijmegen onderzochten het vraagstuk.

Twee vragen
Belemmeren de regels van de AVG over bijzondere persoonsgegevens het tegengaan van discriminerende effecten van AI-systemen?
Wat zijn de argumenten voor en tegen het creëren van een nieuwe uitzondering op het AVG-verbod op het gebruik van bijzondere persoonsgegevens om discriminatie door AI-systemen tegen te gaan?

Een uitzondering op het AVG-verbod op het gebruik van bijzondere persoonsgegevens zou kunnen worden opgenomen in de AVG, of in een andere wet, nationaal of op EU-niveau. Wij richten ons alleen op discriminatie met betrekking tot bepaalde beschermde gronden in de non-discriminatierichtlijnen van de EU, namelijk etniciteit, godsdienst of overtuiging, handicap en seksuele geaardheid. In Nederland zijn die richtlijnen grotendeels geïmplementeerd in de Algemene wet gelijke behandeling (Awgb).

Lees verder via ibestuur.nl

Meer weten over toezicht in verbinding? Kom naar de HCB Seminarreeks Toezicht in Transitie 2023 – Toezicht in verbinding die start op 23 november in Den Haag en is georganiseerd door het Haags Congres Bureau.

In de HCB Seminarreeks Toezicht in Transitie 2023 gaat het dit najaar om de verbinding met de omgeving:

• Toezicht in de omgeving – Relaties met Europees recht en met interne toezichthouder
• Toezicht met de omgeving – Burgers en bedrijven betrekken
• Toezicht voor de omgeving – Verantwoorde inzet van technologie

Sprekers zijn Esther Versluis, Universiteit Maastricht, Bart Snels, Inspectie belastingen, toeslagen en douane, Leonie Schakel, NZa, Gijs van Maanen, Tilburg Institute for Law, Technology and Society, Frans van Bruggen, DNB, UU en NSOB, en Paul van Dijk, zelfstandig adviseur.

Meer informatie vindt u hier.