X solliciteert naar ban in Europa volgens juristen: ‘Deze maatregel verandert niets’

ICT-jurist Caroline van Ekeren geeft juridische context bij de gegenereerde deepfakes.

Toezichthouders wereldwijd buigen zich over Grok, de AI-chatbot die op het platform X onrechtmatig seksueel beeldmateriaal met AI genereert en verspreidt. Indonesië en Maleisië hebben X om die reden inmiddels offline gehaald, en ook in Europa bestaat er kans dat het zo ver komt.

Volgens ICT-jurist Caroline van Ekeren van ICTRecht hebben Europese toezichthouders de mogelijkheid om platforms als X ontoegankelijk te maken wanneer andere handhavingsmogelijkheden zijn uitgeput en niet toereikend zijn. Eerder werd de torrent-website The Pirate Bay ook offline gehaald, naar aanleiding van een rechtszaak.

Het vervaardigen van ongevraagd seksueel getint beeldmateriaal, waar gebruikers op X Grok massaal voor inzetten, is in Nederland strafbaar op grond van het Wetboek van Strafrecht, zo legt van Ekeren uit. Dat geldt nadrukkelijk ook voor materiaal van minderjarigen. Of dat ‘per ongeluk’ gebeurt is daarbij niet relevant. Van Ekeren stelt bovendien dat het extreem lastig is om te verdedigen dat iemand bij het gebruik van generatieve AI per ongeluk tot naakt beeldmateriaal komt.

Lees verder via ibestuur.nl

Meer weten over wat de impact is van de toenemende samenwerking op het gezag en de effectiviteit van nationale toezichthouders? Kom dan naar de 9de editie van het jaarlijkse HCB Seminar ‘Toezicht in Transitie‘, dat plaatsvindt op 8 april in Luden, Den Haag. Waarin thema’s zoals het internationale, Europese en nationale speelveld, vormen van samenwerking en welke kansen en risico’s biedt samenwerking? Met sprekers waaronder Prof. dr. Esther Versluis (Universiteit Maastricht) en Paul van Dijk (zelfstandig adviseur).