Volg het nieuws rond de toeslagenaffaire
Volgens de organisatie hebben de algoritmes geleid tot etnisch profileren. Dat is een vorm van discriminatie en daarom zijn ze in strijd met de mensenrechten, concludeert Amnesty International. Ook zou er sprake zijn van discriminatie op basis van sociale klasse.
Een algoritme is een verzameling regels die een computer volgt. Vaak wordt het gebruikt om op grote schaal taken uit te voeren die mensen veel tijd zouden kosten. Zo worden algoritmes gebruikt om bijvoorbeeld fraude op te sporen. Die doorzoeken dan allerlei gegevens om informatie te vinden die op fraude zou kunnen wijzen.
'Risicomodel' werd gebruikt
De Belastingdienst maakte bij het controleren van de aanvragen voor kinderopvangtoeslag gebruik van een zogenoemd risicomodel. Dit model bestond uit meerdere risicofactoren, waaronder het niet hebben van de Nederlandse nationaliteit. Mensen die niet de Nederlandse nationaliteit hebben, hadden een grotere kans om door de Belastingdienst onterecht als fraudeur te worden bestempeld.
"De aanname dat bepaalde bevolkingsgroepen eerder geneigd zijn om fraude te plegen, wijst op bestaande vooroordelen en ongelijke behandeling door de Belastingdienst", zegt Amnesty International.
Volgens de organisatie heeft de overheid wel maatregelen genomen om herhaling te voorkomen, maar "schieten deze op alle fronten tekort". "Zo zijn ambtenaren niet verplicht om de mensenrechtenrisico's vooraf in kaart te brengen, is het toezicht op algoritmes ondermaats en mogen overheidsinstellingen het gebruik en de werking van algoritmes geheimhouden."
Ministerie erkent discriminatie
Het ministerie van Financiën laat in een reactie weten in gesprek te willen met Amnesty International. "Het rapport onderstreept de noodzaak om aan al deze zaken te blijven werken", staat in een schriftelijke reactie.
"Niemand mag gediscrimineerd worden. Dat dit bij de dienst Toeslagen toch is gebeurd, is pijnlijk en mag nooit meer gebeuren. De overheid moet het goede voorbeeld geven en altijd zorgen voor een eerlijke behandeling zonder vooroordelen."