Discriminatie voorkomen in het ontwerp van Al

De huidige normen voor het ontwikkelen van kunstmatige intelligentie (AI) hebben nog te weinig effect op de praktijk. Met dat uitgangspunt ontwikkelde een groep wetenschappers van drie verschillende universiteiten en het College voor de Rechten van de Mens een handreiking, ‘Non-Discriminatie by Design’, waarmee organisaties die AI willen inzetten discriminatie kunnen voorkomen.

Te rechtvaardigen
Directe en indirecte discriminatie zijn verboden, maar onderscheid maken tussen groepen kan voor overheden legitiem en te rechtvaardigen zijn. ‘Dat is zo als er sprake is van een legitieme reden om het onderscheid te maken, als het maken van onderscheid proportioneel is en als er geen minder ingrijpende middelen ter beschikking staan om hetzelfde doel te bereiken’, schrijven de onderzoekers.

Lees verder via binnenlandsbestuur.nl