Overheidsorganisaties en bedrijven moeten meer grip krijgen op de algoritmes die ze gebruiken. Computersystemen die ingezet worden voor bijvoorbeeld de controle op fraude, hebben nog te vaak te veel risico’s, schrijft de Autoriteit Persoonsgegevens (AP). Volgens de privacywaakhond kunnen algoritmes zo namelijk leiden tot bijvoorbeeld discriminatie en kansenongelijkheid.
Algoritmes worden inmiddels in bijna alle organisaties gebruikt, van banken en ziekenhuizen tot gemeenten. Zo moeten banken bijvoorbeeld controleren of er geen illegale betalingen worden uitgevoerd. Alle transacties door mensen laten controleren is lastig, daarom worden computersystemen ingezet.
Risico’s
Zulke automatische controles met algoritmes brengen veel goeds, maar ook grote risico’s met zich mee, waarschuwt de AP. Denk bijvoorbeeld aan het systeem dat de Dienst Uitvoering Onderwijs (DUO) gebruikte voor het controleren op fraude met studiefinanciering.
Lees verder via nos.nl
Bezorgde burgers? Hoe rechts-extremisme structureel aanwezig is bij anti-azc-protestbeweging Defend Netherlands
Een nieuw wiel of een betere auto? 3 redenen en 3 randvoorwaarden voor samenwerken in toezicht
Raad van State ziet mogelijkheden voor wet tegen verheerlijking terrorisme, maar eist eerst duidelijkere afbakening
