Experts waarschuwen: honderden tests voor veiligheid en effectiviteit AI schieten tekort

Je kan er niet meer omheen: kunstmatige intelligentie. Deskundigen hebben nu echter honderden tests gedaan met nieuwe kunstmatige-intelligentiemodellen om zo de veiligheid en effectiviteit daarvan te controleren. Daaruit blijkt dat bijna alle tests op minstens één gebied over zwakke punten beschikken die ‘de geldigheid van de gedane beweringen kunnen ondermijnen’, schrijft The Guardian.

Computerwetenschappers van het AI Security Institute van de Britse overheid en deskundigen van universiteiten als Stanford, Berkeley en Oxford hebben ruim 440 maatstaven onderzocht die bepalen of een AI-model veilig en effectief is. De onderzoekers ontdekten dat die maatstaven ‘de geldigheid van de resulterende claims ondermijnen’ (…), dat ze ‘bijna allemaal op ten minste één gebied zwakke punten hebben’ en dat de resulterende scores zelfs ‘irrelevant of misleidend’ zijn.

Schokkende bevinding
Veel van die maatstaven, ook wel benchmarks genoemd, worden gebruikt om de nieuwste AI-modellen te evalueren die door de grote technologiebedrijven op de markt worden gebracht, zegt onderzoeker Andrew Bean van het Oxford Internet Institute. In het Verenigd Koninkrijk en de Verenigde Staten is er geen landelijke AI-regelgeving, daarom worden benchmarks gebruikt om te controleren of de AI-modellen veilig zijn, waarheidsgetrouw en of ze bepaalde capaciteiten op het gebied van redeneren, wiskunde en coderen waarmaken.

Lees verder via bnr.nl

Leren hoe je de veiligheid en leefbaarheid in uw gemeente verbetert? Kom dan naar de HCB Seminarreeks Topsprekers in Veiligheid 2025, die plaatsvindt 12 november en 26 november. In twee middagsessies komen aan bod: Protest en polarisatie, Cybercrime en ondermijning, Onbegrepen gedrag en Migratie, mensenhandel en arbeidsuitbuiting. Kijk voor meer informatie en inschrijving op haagscongresbureau.nl. Met onder andere prof. dr. Alette Smeulers (Rijksuniversiteit Groningen), Hans Moors (partner van EMMA) en Dr. Ruben Timmerman (onderzoeker Erasmus Universiteit Rotterdam).