Voorspellende algoritmen versimpelen en maken ongelijker

Overheden en bedrijven doen steeds vaker een beroep op big data en algoritmen om menselijk gedrag te kwantificeren, voorspellen en bij te sturen. Dit nieuwe ‘data-regime’ heeft ingrijpende maatschappelijke gevolgen, in het bijzonder voor minderheden.

In haar boek Automating inequality beschrijft politiek wetenschapper Virginia Eubanks aan de hand van schrijnende voorbeelden op welke manier migranten, armen en gestigmatiseerde groepen stelselmatig door algoritmen worden benadeeld. Omdat zij intensiever worden gemonitord dan sociaaleconomisch bevoordeelde groepen, zijn er meer data over hen beschikbaar waarmee Amerikaanse overheden en bedrijven een regime van surveillance, risicoprofilering en uitsluiting hanteren.

Lees verder via socialevraagstukken.nl