Meerderheid gemeenten publiceert geen risico-algoritmes

Een aantal grote gemeenten heeft zijn hoogrisico-algoritmes inmiddels gepubliceerd in het landelijke algoritmeregister. De overgrote meerderheid volgt nog niet. Maar regelgeving is in aantocht en ook de maatschappelijke druk neemt toe.

Nederland beschikt nu al ruim een jaar over het Nationaal Algoritmeregister. Bij de introductie ervan in december 2022 stonden er 109 algoritmen in. Medio februari 2024 staat de teller op 291. Veel registraties komen van gemeenten. Amsterdam (40), Den Haag (29), Utrecht (38) en Rotterdam (11) bijten het spits af. Daarna volgt een veertigtal gemeenten met 1 tot 5 registraties.

Risicovolle computercodes
De gepubliceerde algoritmes zijn slechts een fractie van de risicovolle computercodes die overheden gebruiken. Volgens onderzoek van de Algemene Rekenkamer zijn er vele tientallen voorspellende, mogelijk discriminerende algoritmes bij de overheid. Ook algoritmes met een hoog risico die bijvoorbeeld worden gebruikt voor fraudeopsporing, zijn niet geregistreerd.

Grip
Koploper Amsterdam kreeg onlangs nog kritiek van de eigen Rekenkamer Metropool Amsterdam (RMA). Die constateerde na onderzoek dat de gemeente onvoldoende grip heeft op de algoritmen die ze gebruikt. Zo is nog maar bij één algoritme goed onderzocht of het eerlijk is. Ook heeft Amsterdam niet goed in kaart welke algoritmen ze allemaal gebruikt, aldus de RMA.

Lees verder via Gemeente.nu

Meer weten over toezicht in verbinding? Kom naar de wegens succes herhaalde HCB Seminars Toezicht in Transitie 2024 – Toezicht in verbinding die starten op 11 april 2024 in Den Haag en zijn georganiseerd door het Haags Congres Bureau.

In de HCB Seminarreeks Toezicht in Transitie 2024 gaat het dit najaar om de verbinding met de omgeving:

Toezicht in de omgeving – Relaties met Europees recht en met interne toezichthouder
Toezicht met de omgeving – Burgers en bedrijven betrekken
Toezicht voor de omgeving – Verantwoorde inzet van technologie

Sprekers zijn Esther Versluis, Universiteit Maastricht, Meike Bokhorst, Universiteit Utrecht en WRR, Bart Snels, Inspectie belastingen, toeslagen en douane, Gijs van Maanen, Tilburg Institute for Law, Technology and Society, Frans van Bruggen, DNB, UU en NSOB, en Paul van Dijk, zelfstandig adviseur