“De interactie tussen mens en machine verdient veel meer aandacht”

Hoe voorkom je als overheidsorganisatie dat je discrimineert via je algoritme? Lucas Haitsma van de Rijksuniversiteit Groningen doet er onderzoek naar. “Het is de mens die discrimineert, niet het algoritme of systeem.”

‘Burgers vermalen door fraudebeleid’ (NOS), ‘Overheid is blind geweest voor rechten mens, levens vermorzeld’ (RTL Nieuws). De parlementaire enquêtecommissie Fraudebeleid en Dienstverlening nam het fraudebeleid van de overheid van afgelopen decennia onder de loep en benadrukt opnieuw dat het anders moet. Maar de kans dat de overheid opnieuw discrimineert is groot, weet promovendus Lucas Haitsma van de Rijksuniversiteit Groningen. Hij onderzoekt algoritmische discriminatie (zie kader) bij overheidsorganisaties.

Algoritmische discriminatie
Hiervan is sprake wanneer algoritmes als tool worden gebruikt bij het nemen van oneerlijke, nadelige beslissingen tegen bepaalde groepen mensen. Het algoritme baseert zich dan op kenmerken zoals nationaliteit, geslacht en postcode. Algoritmische discriminatie komt voort uit, onder andere, vooringenomen trainingsdata, discriminerende risico-indicatoren en selectiepraktijken, versterkende feedbackloops en een gebrek aan monitoring, evaluatie en transparantie.

Na de toeslagenaffaire verwachtte Haitsma dat algoritmische discriminatie hoog op de agenda van overheidsorganisatie zou komen te staan. “Maar al in maart 2023 bleek het tegendeel. Toen verschenen er rapporten over hoe de gemeente Rotterdam bij het opsporen van bijstandsfraude een algoritme gebruikte dat selecteerde op etniciteit en geslacht. En in de zomer van 2023 kwam naar buiten dat studenten met een migratieachtergrond opvallend vaak van fraude werden beschuldigd door DUO.”

Lees verder via toezine.nl

Meer weten over toezicht in verbinding? Kom naar de HCB Seminarreeks Toezicht in Transitie 2024 – Toezicht in verbinding die start op 25 april in Den Haag en is georganiseerd door het Haags Congres Bureau.

In de HCB Seminarreeks Toezicht in Transitie 2024 gaat het dit najaar om de verbinding met de omgeving:

• Toezicht in de omgeving – Relaties met Europees recht en met interne toezichthouder
• Toezicht met de omgeving – Burgers en bedrijven betrekken
• Toezicht voor de omgeving – Verantwoorde inzet van technologie

Sprekers zijn Gijs van Maanen, Tilburg Institute for Law, Technology and Society, Frans van Bruggen, DNB, UU en NSOB, prof. dr. Esther Versluis, Universiteit Maastricht, Bart Snels, Inspectie belastingen, toeslagen en douane, Meike Bokhorst, Universiteit van Utrecht en WRR en Paul van Dijk, zelfstandig adviseur.

Meer informatie vindt u hier.