Data-governance in ai-tijden: de UWV-casus

Met de introductie van ai in belangrijke bedrijfsprocessen krijgen we te maken met nieuwe uitdagingen rond de omgang met persoonsgegevens. Verrassend daarbij is dat in Nederland het UWV vooroploopt, maar zich niet bewust lijkt van de risico’s die dit met zich meebrengt.

Niemand zal het doen, maar wie wil kan mijn ict-schrijfsels sinds 1993 aan een ai-model aanbieden om daarna Datarevival-columns van achthonderd woorden te laten genereren. Is wat wordt gegenereerd dan spam? Plagiaat? Oplichterij? Auteursrechtschending? Identiteitsdiefstal? Het is voer voor filosofen en juristen – en de eerste rechtszaken zijn al aangespannen door de New York Times en sterauteurs als John Grisham en Stephen King.

Over naar Nederland. Ons UWV is begonnen om de switch naar ai te maken met een mega-ict-project. Het systeem Werk.nl dat cv’s van werkzoekenden koppelt aan vacatures van werkgevers wordt herbouwd op basis van software van ai-aanbieder 8Vance. Dat belooft veel goeds, ook omdat de matching-software die UWV al een kwart eeuw gebruikt slecht functioneert. Het bedrijf zegt de ai te hebben getraind op maar liefst 85 miljoen persoonsprofielen, waarvan zeven miljoen Nederlanders, die zij van LinkedIn heeft gescrapet (ja, ook uw LinkedIn-profiel.) De vraag is nu natuurlijk: mag dat zomaar? En afgeleid: heeft UWV haar huiswerk wel gedaan?

Lees verder via computable.nl

Op 20 november 2024 vindt de geheel nieuwe editie van het jaarlijks HCB Seminar Toezicht in Transitie plaats, deze keer over Versterking van Toezicht. Met o.a. Paul van Dijk. Kijk op de website van het Haags Congres Bureau.