Rapport

Amnesty: Discriminerende algoritmes zijn een schending van mensenrechten

Demonstratie slachtoffers toeslagenaffaire in mei 2021 op de Dam in Amsterdam.  Beeld Joris van Gennip
Demonstratie slachtoffers toeslagenaffaire in mei 2021 op de Dam in Amsterdam.Beeld Joris van Gennip

De wijze waarop in Nederland algoritmes worden ingezet, is volgens Amnesty International een schending van mensenrechten. En de kans op herhaling in Nederland én andere landen is groot, zo waarschuwt de organisatie.

Esther Lammers

Amnesty heeft voorafgaand aan de jaarlijkse VN-vergadering in New York een rapport overhandigd over het gebruik van de Nederlandse algoritmes. Ze stelt Nederland daarmee als voorbeeld van hoe het vooral niet moet.

De toeslagenaffaire heeft, zegt Amnesty, meer dan duidelijk gemaakt hoe makkelijk een overheid mensenrechten schendt en hoe groot de negatieve gevolgen zijn als te gemakkelijk een geautomatiseerde besluitvorming wordt ingevoerd.

Zo koos Nederland ervoor om risicoselecties toe te passen voor burgers die in een probleemwijk wonen, een niet-Nederlandse etniciteit hebben of in armoede leven.

Wie op grond van deze kenmerken werd geselecteerd, moest extra kritisch worden gecontroleerd en verloor daardoor sneller zijn of haar recht op toeslagen. Ook de politie gebruikt deze kenmerken om groepen mensen eruit te pikken.

Roermond als levend laboratorium

De VN-rapporteur voor extreme armoede waarschuwde in 2019 de Nederlandse overheid ook al voor de wijze waarop gevoelige persoonlijke data werd ingezet om het risico op fraude met belasting en toeslagen te selecteren.

En Amnesty concludeerde vorig jaar dat de stad Roermond door de Nationale Politie als een levend laboratorium werd gebruikt om dit soort risicomodellen te ontwikkelen. Met deze waarschuwingen is niets gedaan, concludeert de mensenrechtenorganisatie. Vorige maand oordeelde een Nederlandse rechter nog dat een selectie op etniciteit bij de douane proportioneel is.

Amnesty vreest nu dat ook andere landen op deze wijze algoritmes gaan gebruiken, vooral omdat Nederland een voorloper op dit gebied is. Er zijn genoeg lessen die uit de Nederlandse praktijk getrokken kunnen worden. Zo wil Amnesty dat overheden zelflerende algoritmes zeer terughoudend inzetten, omdat onduidelijk is hoe deze zich in de tijd ontwikkelen.

Verbod op ‘black box’

Wanneer algoritmes worden ingezet, moet ook volledig helder zijn welke kenmerken en persoonlijke informatie de overheid precies gebruikt voor de inzet ervan. Bij de kinderopvangtoeslag bleek dat niemand precies wist wat de geautomatiseerde beslisboom was op grond waarvan iemand wel of geen recht op de toeslag had. Zo’n black box moet verboden zijn, vindt Amnesty.

Meer transparantie kan worden bereikt door online een voor iedereen toegankelijk register te maken waarin de gebruikte data altijd zijn terug te vinden. Amnesty wil bovendien dat een overheid die besluit een semi-automatisch besluitvormingsproces in te richten de logica, de noodzaak en de verwachte consequenties ervan glashelder kan uitleggen.

De organisatie wil ook dat overheden vooraf wettelijke kaders opstellen voor algoritme-systemen en bij gebruik ervan vooraf een toets op mensenrechtenschending doen. Algoritmes kunnen namelijk van grote invloed zijn op wetgeving en de persoonlijke vrijheid van mensen.

Misschien wel 4000 kinderen uit huis geplaatst in toeslagenaffaire

De voltallige Tweede Kamer wil dat het kabinet zo snel mogelijk aangeeft hoe het de 1115 uit huis geplaatste kinderen van gedupeerde toeslagenouders gaat helpen om terug te keren naar hun ouders. De Kamer is geschokt over de informatie die het CBS vorige week naar buiten bracht.

Vooral omdat al sinds 2017 meerdere keren aan het kabinet is gevraagd hoeveel kinderen uit huis zijn geplaatst. Destijds antwoordde staatssecretaris Eric Wiebes (VVD) van financiën dat kinderen niet uit huis worden geplaatst vanwege schulden van ouders.

Nu blijkt dit wel te gebeuren, wisten Kamerleden na gesprekken met gedupeerden te melden. Onafhankelijk Kamerlid Pieter Omtzigt wil ook van het kabinet weten om hoeveel kinderen het gaat, omdat het ook om vrijwillige uithuisplaatsingen zou moeten gaan, en over een langere periode. Omtzigt vreest dat het aantal dan kan oplopen tot zomaar 4000 kinderen die uit huis zijn geplaatst.

Lees ook:

Het lukt maar niet om de problemen te herstellen waarin slachtoffers van de toeslagenaffaire zijn beland.

De hersteloperatie vergroot bovendien de ongelijkheid nog meer, waarschuwt de Raad van State

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden