We verwachtten dat digitalisering zou leiden tot efficiënter en effectiever werken, maar worden ons gaandeweg bewuster van de daarmee gepaard gaande risico’s. Zo wordt ons steeds duidelijker dat digitale risicomodellen bestaande aannames reproduceren. Juist in gedigitaliseerde systemen kan dat leiden tot schade die moeilijk zichtbaar te maken en te herstellen is. Deze bijdrage onderzoekt of de inzet van zulke systemen in het sociaal domein daarmee nog te rechtvaardigen is.
Overheden en uitvoeringsinstanties staan onder druk om efficiënter, slimmer en doelgerichter te werken. Digitalisering biedt de belofte om hier een belangrijke bijdrage aan te leveren. Ook in het sociaal domein wordt steeds vaker gebruikgemaakt van digitale middelen om risico’s vroegtijdig te signaleren, bijvoorbeeld in het kader van armoedebestrijding, zorg, jeugdhulp of schuldhulpverlening. Risicoprofilering wordt daarbij ingezet om sneller te kunnen handelen, gerichter toezicht te houden, en oneigenlijk gebruik, zoals fraude of misbruik, te voorkomen.
Maar juist in het sociaal domein, waar het gaat om mensen in kwetsbare omstandigheden, brengt profilering – zeker wanneer gestuurd door algoritmen en digitale systemen – risico’s met zich mee die moeilijk zichtbaar zijn, maar diep ingrijpen. Burgers weten vaak niet dat ze in een risicoprofiel zijn geplaatst. Transparantie, uitleg en de mogelijkheid tot bezwaar ontbreken in veel gevallen of zijn slechts beperkt aanwezig. Hierdoor kunnen burgers zich moeilijk verweren. De gevolgen kunnen groot zijn. Denk aan intensievere controle, verlies en schending van rechten, of zelfuitsluiting uit wantrouwen.
Schijn van objectiviteit
Risicoprofielen worden opgebouwd uit vooraf verzamelde en als relevant beschouwde gegevens. De resulterende risicoscores en signalen worden gepresenteerd als neutrale, objectieve feiten, maar zijn in werkelijkheid gebaseerd op selectieve data, aannames en eerdere beleidskeuzes. Een wijk, gezin of dossier krijgt zo een label nog voordat er met iemand is gesproken. Dat label beïnvloedt vaak hoe ambtenaren, handhavers of hulpverleners keuzes maken, meestal zonder zich daarvan bewust te zijn. Digitale risicosignalen, die als neutrale indicatie worden gepresenteerd, kunnen in de praktijk bestaande aannames en intuïties van uitvoerders bevestigen en hen onbedoeld sturen in hun oordeel en handelen (zoals ook beschreven in het rapport Gelijk Recht Doen). Zo sluipen vooroordelen ongemerkt de praktijk binnen, waar ze kunnen worden versterkt.
Lees verder via platformoverheid.nl
Beleving bepaalt draagvlak voor regels
NVB uit zorgen over nieuwe ’te strenge’ EU-regels tegen witwassen
Vertrouw meer op professionaliteit en intrinsieke motivatie – Interview met Theunis Schaafstra
