Overheden worstelen met mogelijke hoog risico AI-systemen

Volgens Algorithm Audit hebben overheidsorganisaties moeite met de afweging of een algoritme tot de hoog risico AI-systemen behoort.

Hoewel de rijksoverheid volgens eigen inventarisaties zeker 370 algoritmes inzet, staan er maar dertien te boek als hoog risico AI-systeem. Zijn het er echt zo weinig, of helt de schaal van de departementen bij de afweging te vaak naar de kant die ze het minste extra werk oplevert?

Onderzoek naar registraties
Vorige week werd bekendgemaakt dat de Auditdienst Rijk (ADR) de kwaliteit en de volledigheid van de registraties van algoritmes in het nationaal algoritmeregister gaat onderzoeken. Ook wordt de praktische toepasbaarheid en auditeerbaarheid van het Algoritmekader onderzocht.

Volgens stichting Algorithm Audit zijn er aanwijzingen dat het rijk algoritmes onterecht niet als hoog risico AI-systeem classificeert. Hoe lastig de afweging kan zijn, is het beste te zien aan de hand van een voorbeeld. Binnenlands Bestuur vroeg het ministerie van Justitie en Veiligheid hoe men tot de conclusie kwam dat het AI-systeem MONOcam als een impactvol algoritme in het algoritmeregister is opgenomen (en dus niet als een hoog risico AI-systeem, waarvoor veel meer regels en beperkingen gelden).

Lees verder via binnenlandsbestuur.nl

Weten hoe je de veiligheid en leefbaarheid in uw gemeente verbetert? Kom dan naar de HCB Seminarreeks Topsprekers in Veiligheid 2025, die plaatsvindt op 1 oktober, 12 november en 26 november. Met drie middagsessies die diverse thema’s behandelen, waaronder: Protest en polarisatie, Jeugdcriminaliteit, Ethisch navigeren in onzekere tijden en Omgaan met personen met onbegrepen gedrag.  Kijk voor meer informatie en inschrijving op haagscongresbureau.nl. Met onder andere Hans Moors (partner van EMMA), Dr. Evelyn Heynen (universitair docent Klinische kinder- en jeugdpsychologie Open Universiteit), Michael Kowalski (hoogleraar Applied Ethics in Intelligence and Security) en Dr. Ruben Timmerman (onderzoeker Erasmus Universiteit Rotterdam).