Zelfstandige AI-agent van Meta veroorzaakt beveiligingslek: ‘Mensen verliezen hun vermogen tot kritisch denken’

Een AI-systeem van Meta heeft op eigen houtje een beveiligingslek veroorzaakt binnen het bedrijf. Meta heeft het incident bevestigd. Zo’n twee uur lang waren gevoelige bedrijfs- en persoonsgegevens in te zien, schrijft de Amerikaanse nieuwssite The Information. Inmiddels is het lek gedicht.

Het gaat om een ‘AI-agent’, een AI-systeem dat zelfstandig taken kan uitvoeren. Voor particulieren is er bijvoorbeeld de populaire agent OpenClaw, die onder meer emails kan beantwoorden of boodschappen bestellen. Gebruikers geven agents opdrachten via chatgesprekken, zoals met ChatGPT, maar de agent kan vervolgens zelf digitale systemen navigeren. Handig, maar het autonome handelen van deze agents heeft recentelijk meermaals problemen veroorzaakt.

Zo viel de online dienstverlening van Amazon in december dertien uur lang uit nadat werknemers van het bedrijf een agent hadden ingezet om computercode te bewerken. Eind februari verwijderde een agent emails van een AI-onderzoeker van Meta, ook na herhaaldelijke, steeds wanhopigere vragen van de onderzoeker aan de agent om daarmee op te houden. Deze maand brak nog een andere agent los en ging uit eigen initiatief cryptovaluta delven, terwijl het daartoe geen opdracht had gekregen.

Lees verder via volkskrant.nl

Meer weten over wat de impact is van de toenemende samenwerking op het gezag en de effectiviteit van nationale toezichthouders? Kom dan naar de 9de editie van het jaarlijkse HCB Seminar ‘Toezicht in Transitie‘, dat plaatsvindt op 8 april in Luden, Den Haag. Waarin thema’s zoals het internationale, Europese en nationale speelveld, vormen van samenwerking en welke kansen en risico’s biedt samenwerking? Met sprekers waaronder Prof. dr. Esther Versluis (Universiteit Maastricht), Amma Asante (CvdM), Huub Janssen (RDI) en Paul van Dijk (zelfstandig adviseur).