Herman Ipenburg, inspecteur bij de privacytoezichthouder, noemt het werk van pakket- en maaltijdbezorgers als voorbeeld. „Van begin tot eind kunnen ze gemonitord worden. De werkgever wil weten waar een voertuig zich bevindt, maar het kan verder gaan, soms hangen er camera’s in een auto om te zien wat mensen doen.”

Technologie kan ook worden gebruikt bij het beoordelen van werknemers en sollicitanten. Dat mag op zich, maar niet alles mag. Computersystemen zijn hooguit hulpmiddelen. „Een computer mag niet zelf beslissingen nemen. Er moet een mens bij betrokken zijn, omdat er ruis in de gegevens kan zitten”, zegt Ipenburg. Algoritmes zijn namelijk even goed als de gegevens die mensen erin stoppen.

Als voorbeeld noemt de inspecteur: „Stel dat uit gegevens blijkt dat vrouwen vaker verzuimen dan mannen. Dan kun je als vrouw worden afgerekend op andere vrouwen die vaker verzuimen, terwijl jij misschien helemaal nooit verzuimt. Of je sollicitatiebrief wordt geautomatiseerd afgewezen omdat hij niet voldoet aan de eisen van de software, terwijl dat misschien aan de software ligt. Dat heeft grote gevolgen, want je krijgt het sollicitatiegesprek en dus de baan niet.”

Ook bij het bestrijden van fraude kan technologie te ver gaan. De AP doet momenteel onderzoek naar de ‘fraudescorekaart’, een systeem waarmee sommige gemeenten probeerden te voorspellen wie sjoemelen met uitkeringen. Omdat het onderzoek nog loopt, wil Ipenburg er niet veel over zeggen. „Gemeenten hebben de beste bedoelingen om te voorkomen dat gemeenschapsgeld onrechtmatig wordt gebruikt. Maar wanneer niet de juiste mensen aan tafel zitten als het algoritme wordt samengesteld, is het vanaf het begin verdacht.” Het systeem kan mensen er dan uit pikken omdat ze in een bepaalde wijk wonen, een bepaald beroep hebben of in een woonwagen wonen. Zij worden strenger gecontroleerd dan anderen, en dat kan discriminerend zijn.

Om dat te voorkomen moeten gemeenten een privacytoezichthouder laten meedenken over hun plannen, een zogenoemde functionaris gegevensbescherming. Ipenburg: „Dat gebeurt, maar niet voldoende. Er wordt gedacht dat zij het proces verstoren, want gemeenten willen snel aan de slag. Maar dat is volkomen onterecht.”