Overheid moet algoritmes doorlopend toetsen op discriminatie

Staatssecretaris Van Huffelen (Digitale Zaken) wil ambtenaren verplichten een ‘mensenrechten-impact-assessment’ uit te voeren bij nieuwe én bestaande algoritmes. Een goede ontwikkeling, vinden Quirine Eijkman en collega’s van het College voor de Rechten van de Mens. Maar dan met bindende discriminatietoets.

De laatste jaren is er een reeks misstanden aan het licht gekomen waarbij mensen werden gediscrimineerd door algoritmes die de overheid inzette. Deze onthullingen waren vaak het werk van journalisten, ngo’s of controlerende onafhankelijke partijen (zoals de Algemene Rekenkamer).

Om de misstanden tegen te gaan, kwam Alexandra van Huffelen, staatssecretaris van Koninkrijksrelaties en Digitalisering, met het plan om een zogenoemd mensenrechten-impact-assessment verplicht te stellen. Dit zou inhouden dat ambtenaren, voordat ze algoritmes gaan gebruiken, eerst onderzoeken wat de impact ervan is op mensenrechten.

Lees verder via socialevraagstukken.nl

Martijn Snoep, bestuursvoorzitter ACM, is een van de keynote-sprekers op de geheel nieuwe 7e editie van het HCB Seminar Toezicht in Transitie – De rol van de toezichthouder bij veranderende verhoudingen tussen markt en overheid op 24 mei in de Grote Zaal van het Koninklijk Instituut van Ingenieurs in Den Haag. Verder met Angeline van Dijk, inspecteur-generaal van Rijksinspectie Digitale Infrastructuur (RDI), Prof. dr. (Karin) CG van Wingerde, Erasmus School of Law, Dr. A.M. (Meike) Bokhorst, Wetenschappelijke Raad voor het Regeringsbeleid en Universiteit Utrecht en Paul van Dijk, zelfstandig adviseur. Georganiseerd door het Haags Congres Bureau. Korting voor oud deelnemers en leden Vide.