Amnesty neemt het zogeheten Sensing-project in Roermond, een digitaal systeem dat via wiskundige modellen misdaden kan voorspellen, als voorbeeld. „Door het gebruik van camera’s en andere sensoren houdt de politie systematisch alle mensen in de gaten die in en rond Roermond rijden,” zegt Amnesty. De methode leidt volgens de organisatie tot schending van het recht op privacy en databescherming.

Dat klopt volgens de politie niet. „Het project in Roermond is een proef, die streng gemonitord wordt door de driehoek. Welke data we mogen gebruiken is bovendien allemaal juridisch vastgelegd. We doen niets met gegevens die we niet nodig hebben.”

Volgens Amnesty schendt de methode niet alleen privacy, maar leidt deze ook tot discriminatie en etnisch profileren. „Vooroordelen en stereotypen beïnvloeden de modellen en algoritmes. Dit leidt tot discriminerende uitkomsten met hogere risicoscores voor bepaalde maatschappelijke bevolkingsgroepen.”

Ook dat spreekt de politie tegen. „We houden nooit iemand aan op basis van alleen de informatie die we via de systemen binnenkrijgen”, aldus een woordvoerder van de politie. Zo worden bijvoorbeeld nooit alle auto’s uit een bepaald land doorzocht. „Het systeem leest kentekens en voertuiggegevens. Vervolgens kijken wij of we het in combinatie met andere verdachte kenmerken, zoals het aantal mensen dat in een auto zit of simpelweg verdacht gedrag, nodig vinden om een auto te doorzoeken.”