Spanningsveld tussen veiligheid en vrijheid van meningsuiting bij online moderatie van extremistische content

Nieuw onderzoek laat zien hoe moeilijk het is om de balans tussen veiligheid en vrijheid van meningsuiting te bewaren nu extremistische actoren gebruikmaken van nieuwe technologieën en verhullende communicatiestrategieën. Het is momenteel niet mogelijk om een betrouwbaar kader te ontwikkelen waarmee platforms extremistische en terroristische content kunnen herkennen en aanpassen, zonder dat dit ten koste gaat van fundamentele rechten. Grenzen tussen illegale en schadelijke content vervagen en de inzet van platforms om online extremisme aan te pakken, is onduidelijk. De onderzoekers doen een aantal aanbevelingen aan zowel platforms als beleidsmakers.

In opdracht van het WODC bracht het International Centre for Counter-Terrorism (ICCT) de juridische, ethische en praktische dilemma’s in kaart rond het detecteren en modereren van terroristische, extremistische en impliciet extremistische online content. Centraal in het onderzoek stond de zogenoemde ‘borderline content’ (zie ook eerder verschenen onderzoek).

Digitale dreigingen worden complexer
Extremistische en terroristische groeperingen maken steeds vaker gebruik van generatieve AI, memes, humor, ironie en gecodeerde taal om hun boodschap te verspreiden én detectie te ontwijken. Deze strategieën vergroten hun bereik, met name onder jongeren, en zorgen ervoor dat schadelijke boodschappen niet altijd als expliciet illegaal kunnen worden aangemerkt. Zulke zogenoemde ‘borderline’ of ‘awful but lawful’ uitingen – schadelijk maar wettelijk toegestaan – kunnen bijdragen aan polarisatie en radicalisering zonder direct de wet te overtreden.

Lees verder en download het rapport via wodc.nl

In de online editie van ons jaarlijkse HCB Seminar De Veilige Gemeente leert u van topsprekers hoe u met uw partners in veiligheid samenwerkt aan regie in de aanpak van polarisatie, radicalisering en extremisme. Met onder andere Marloes van Noorloos (Universiteit Leiden), Hans Boutellier (Vrije Universiteit Amsterdam) en Liesbeth van der Heide (Inspectie Justitie en Veiligheid). Lees verder over inschrijfmogelijkheden via de website van het Haags Congres Bureau.