Chatbots voor virtuele vriendschappen en therapie bij mentale problemen geven onbetrouwbare informatie en zijn soms schadelijk. Die conclusie trekt de Autoriteit Persoonsgegevens nadat ze negen populaire chatbotapps onder de loep had genomen.
De toezichthouder ziet dat veel van dit soort AI-chatbots niet in staat zijn om nuances in gesprekken te herkennen. Dat komt doordat onderliggende taalmodellen zijn getraind met de Engelse taal. Daardoor kunnen ze minder goed met Nederlands overweg.
“De AI-chatbots geven ongenuanceerde, ongepaste en soms zelfs schadelijke reacties op gebruikers die mentale problemen ter sprake brengen”, meldt de Autoriteit Persoonsgegevens (AP). Op momenten dat uit het gesprek blijkt dat de gebruiker kampt met een crisissituatie, verwijzen de chatbots niet of nauwelijks door naar professionele hulpinstanties.
Lees verder via nu.nl
Waar ligt uw burgemeester wakker van? Kom 1 april naar de 8e editie van het HCB Seminar De Veilige Gemeente, deze keer over actuele on- en offline risico’s in uw gemeente. Met aandacht voor hackers en online fraudeurs, explosies, jonge criminelen, de impact van online op offline, polarisatie & radicalisering en personen met onbegrepen gedrag. Ook gaan we in op een integrale aanpak, het delen van kennis- en informatie en de regelgeving daarbij. Kijk voor meer informatie en inschrijving op haagscongresbureau.nl.
Burgemeester stelt samenscholingsverbod in bij basisschool Lage Zwaluwe
Hoe Nederlandse jongens worden verleid tot geweld in extreemrechtse appgroepen
De Veilige Gemeente 2025 – Actuele on- en offline risico’s in uw gemeente – 1 april
