Proofpoint introduceert AI-securityoplossing die gedrag en intentie van AI controleert

Cybersecuritybedrijf Proofpoint heeft een nieuwe beveiligingsoplossing gelanceerd die specifiek is ontwikkeld voor het groeiende gebruik van kunstmatige intelligentie binnen organisaties. De oplossing, Proofpoint AI Security, richt zich niet alleen op wat AI-systemen doen, maar vooral op waarom ze dat doen. Daarmee wil het bedrijf een fundamenteel probleem in de huidige beveiliging aanpakken: het gebrek aan inzicht in de intentie achter AI-gedrag.

Volgens Proofpoint verandert de opkomst van autonome AI-agents de manier waarop organisaties werken ingrijpend. Deze agents kunnen zelfstandig taken uitvoeren, zoals e-mails versturen, code schrijven of toegang krijgen tot interne systemen. Eén opdracht kan daarbij tientallen acties in gang zetten, vaak zonder direct menselijk toezicht.

Gedrag
Dat brengt nieuwe risico’s met zich mee. Denk aan zogenoemde zero-click prompt injection-aanvallen of situaties waarin AI-agents meer bevoegdheden krijgen dan bedoeld. Uit onderzoek van Acuvity, een recent door Proofpoint overgenomen bedrijf, blijkt dat 70 procent van de organisaties nog geen effectief AI-beheer heeft ingericht. Daarnaast verwacht de helft binnen een jaar AI-gerelateerd dataverlies.

Lees verder via ictmagazine.nl

Meer weten over wat de impact is van de toenemende samenwerking op het gezag en de effectiviteit van nationale toezichthouders? Kom dan naar de 9de editie van het jaarlijkse HCB Seminar ‘Toezicht in Transitie‘, dat plaatsvindt op 8 april in Luden, Den Haag. Waarin thema’s zoals het internationale, Europese en nationale speelveld, vormen van samenwerking en welke kansen en risico’s biedt samenwerking? Met Robert van Rheenen (Omgevingsdienst De Vallei), Prof. dr. Esther Versluis (Universiteit Maastricht), Amma Asante (CvdM), Huub Janssen (RDI) en Paul van Dijk (zelfstandig adviseur).