Data-governance in ai-tijden: de UWV-casus

Met de introductie van ai in belangrijke bedrijfsprocessen krijgen we te maken met nieuwe uitdagingen rond de omgang met persoonsgegevens. Verrassend daarbij is dat in Nederland het UWV vooroploopt, maar zich niet bewust lijkt van de risico’s die dit met zich meebrengt.

Niemand zal het doen, maar wie wil kan mijn ict-schrijfsels sinds 1993 aan een ai-model aanbieden om daarna Datarevival-columns van achthonderd woorden te laten genereren. Is wat wordt gegenereerd dan spam? Plagiaat? Oplichterij? Auteursrechtschending? Identiteitsdiefstal? Het is voer voor filosofen en juristen – en de eerste rechtszaken zijn al aangespannen door de New York Times en sterauteurs als John Grisham en Stephen King.

Over naar Nederland. Ons UWV is begonnen om de switch naar ai te maken met een mega-ict-project. Het systeem Werk.nl dat cv’s van werkzoekenden koppelt aan vacatures van werkgevers wordt herbouwd op basis van software van ai-aanbieder 8Vance. Dat belooft veel goeds, ook omdat de matching-software die UWV al een kwart eeuw gebruikt slecht functioneert. Het bedrijf zegt de ai te hebben getraind op maar liefst 85 miljoen persoonsprofielen, waarvan zeven miljoen Nederlanders, die zij van LinkedIn heeft gescrapet (ja, ook uw LinkedIn-profiel.) De vraag is nu natuurlijk: mag dat zomaar? En afgeleid: heeft UWV haar huiswerk wel gedaan?

Lees verder via computable.nl

Meer weten over toezicht in verbinding? Kom naar de wegens succes herhaalde HCB Seminars Toezicht in Transitie 2024 – Toezicht in verbinding op 18 april en 16 mei 2024 in Den Haag, georganiseerd door het Haags Congres Bureau.

In de HCB Seminarreeks Toezicht in Transitie 2024 gaat het dit najaar om de verbinding met de omgeving:

• Toezicht voor de omgeving – Verantwoorde inzet van technologie (18 april)
• Toezicht met de omgeving – Burgers en bedrijven betrekken (16 mei)

Sprekers zijn Gijs van Maanen, Tilburg Institute for Law, Technology and Society, Frans van Bruggen, DNB, UU en NSOB, Bart Snels en Floryt van Wesel, Inspectie belastingen, toeslagen en douane en Paul van Dijk, zelfstandig adviseur