Overheidsorganisaties en bedrijven moeten meer grip krijgen op de algoritmes die ze gebruiken. Computersystemen die ingezet worden voor bijvoorbeeld de controle op fraude, hebben nog te vaak te veel risico’s, schrijft de Autoriteit Persoonsgegevens (AP). Volgens de privacywaakhond kunnen algoritmes zo namelijk leiden tot bijvoorbeeld discriminatie en kansenongelijkheid.
Algoritmes worden inmiddels in bijna alle organisaties gebruikt, van banken en ziekenhuizen tot gemeenten. Zo moeten banken bijvoorbeeld controleren of er geen illegale betalingen worden uitgevoerd. Alle transacties door mensen laten controleren is lastig, daarom worden computersystemen ingezet.
Risico’s
Zulke automatische controles met algoritmes brengen veel goeds, maar ook grote risico’s met zich mee, waarschuwt de AP. Denk bijvoorbeeld aan het systeem dat de Dienst Uitvoering Onderwijs (DUO) gebruikte voor het controleren op fraude met studiefinanciering.
Lees verder via nos.nl
D66 eist uitleg over falende onderwijsinspectie: debataanvraag ingediend
Meerdere scholen in Deventer dicht na dreigmail over schietpartij
Minder regels, beter toezicht?
