Dat stelt Amnesty International op basis van een analyse die de mensenrechtenorganisatie heeft gemaakt van de algoritmes die de Belastingdienst gebruikte voor de controle van kinderopvangtoeslagen. „De conclusie van het onderzoek is dat de algoritmes van de Belastingdienst voor controle van foutieve aanvragen met kinderopvangtoeslag en fraude tot etnisch profileren hebben geleid”, aldus Amnesty. „Etnisch profileren is een vorm van discriminatie en daarom in strijd met de mensenrechten. Daarnaast is er sprake van discriminatie op basis van sociale klasse, omdat de werkwijze bij toezicht en fraudebestrijding mensen uit lagere sociale klassen extra hard heeft geraakt.”

Amnesty International heeft maatregelen geanalyseerd die de overheid heeft aangekondigd om een herhaling van de toeslagenaffaire te voorkomen. Die schieten op alle fronten tekort, aldus de mensenrechtenorganisatie. „Zo zijn ambtenaren niet verplicht om de mensenrechtenrisico’s vooraf in kaart te brengen, is het toezicht op algoritmes ondermaats, en mogen overheidsinstellingen het gebruik en de werking van algoritmes geheim houden.”

Amnesty stelt niet tegen het gebruik van algoritmes te zijn, maar dat bij het gebruik ervan de mensenrechten beter moeten worden beschermd.

Een algoritme is een stappenplan dat een computer uitvoert. In dit stappenplan zitten vaak een of meerdere keuzemomenten, bijvoorbeeld op basis van kenmerken als leeftijd, geslacht, of jaarlijks salaris. Zo kan een algoritme verschillende keuzes voor verschillende gevallen maken.

In een reactie zegt het ministerie van Financiën dat staatssecretaris Alexandra van Huffelen (Toeslagen) in gesprek gaat met Amnesty over de „bevindingen en aanbevelingen”.

„Niemand mag gediscrimineerd worden”, aldus het departement. „Dat dit bij Toeslagen toch is gebeurd, is pijnlijk en mag nooit meer gebeuren.” Het ministerie benadrukt verder dat er sinds de val van het kabinet „bij Toeslagen en Rijksbreed” veel is veranderd. „Alles is erop gericht dat wat fout is gegaan niet weer mag gebeuren.”