Meer transparantie en controle is nodig om het gebruik van algoritmes in goede banen te leiden. De Autoriteit Persoonsgegevens moet daarop toe gaan zien.
Ze zijn blij dat iemand ze komt controleren. Minister Franc Weerwind van rechtsbescherming en staatssecretaris Alexandra van Huffelen van digitalisering benadrukken maandag het feestelijke tintje, nu de Autoriteit Persoonsgegevens begint als ‘algoritmewaakhond’. De AP heeft vanaf vandaag de extra taak om toezicht te houden op het gebruik van dergelijke geautomatiseerde selectieprocessen bij de overheid en in de private sector. In de woorden van Van Huffelen moet dat ervoor zorgen dat “mensen er vertrouwen in hebben dat de algoritmes die we gebruiken oké zijn”.
Hoe de AP dat gaat doen, is nog niet heel erg uitgekristalliseerd. Er zijn al veel normen gesteld, legt Cecile Schut uit, die als directeur systeemtoezicht en technologie bij de AP sturing geeft aan deze nieuwe taak. En er komen er ook nog heel veel aan. “Wat van ons vooral nodig is, is uitleg van die normen en toezicht stellen op de naleving.”
Normen ontdekken
Want algoritmes zijn werkelijk overal, en dat maakt ook dat er een lange lijst is van instanties die er nu al toezicht op houden. Monitoren of algoritmes discrimineren op de werkvloer is bijvoorbeeld een taak van de arbeidsinspectie, de AP doet dat in eerste aanleg niet zelf. Het is volgens Schut vooral zaak om te zorgen dat al die controleurs samenwerken en tot een duidelijk toetsingskader komen.
Daar ontbreekt het nog wel eens aan. Instanties weten prima dat gebruik van een algoritme geen mensenrechten mag schenden, maar wat ze moeten doen om dat te voorkomen is veel minder helder. Dat is ook iets wat zich in de praktijk moet uitwijzen. Schut wijst op het algoritmeregister, waar overheidsinstanties sinds kort algoritmes vermelden en omschrijven. Op het moment zijn dat er 109, maar dat aantal zou snel toe moeten nemen.
“We horen dat die transparantie een zuiverende werking heeft” zegt Schut. “Organisaties zoals het UWV en de gemeente Amsterdam hebben het register ingevuld en worden zich daardoor bewuster van wat ze doen. Dat is al een heel belangrijke stap.”
Het blijft een proces
Ook Van Huffelen benadrukt dat we wat de overheid betreft in een aanloopfase zitten. Het brede kader waar algoritmes aan moeten voldoen is wel duidelijk, de invulling in praktische richtlijnen is volop bezig. “Daarom gaat de AP ook toezicht houden!”
De staatssecretaris trekt de vergelijking met de AVG, de brede wet die vijf jaar geleden een norm stelde voor de verwerking en opslag van persoonsgegevens. Toen was het ook aan instanties zelf om uit te vogelen hoe ze aan de regels moesten voldoen. “Ik werkte destijds in het bedrijfsleven en ik wilde dat dolgraag weten. Ook voor algoritmes moeten we helder gaan maken waar je aan moet voldoen om meewerkend te zijn. Maar dat is een proces in wording.”
Zolang die normen nog niet zijn uitgekristalliseerd zijn uitleg en bewustwording de sleutelwoorden. Maar volgens Van Huffelen wordt het algoritmetoezicht wel degelijk ‘een waakhond met echte tanden’. “Handhaven waar dat nodig is.” Dat betekent boetes uitdelen, wat de AP in zijn rol als privacywaakhond nu al steeds vaker doet. In 2021 telde dat op tot elf boetes voor een totaal van 6,5 miljoen euro.
Lees ook:
Criminaliteitspreventie Amsterdam stigmatiseert en discrimineert
De Top 400, een project van de gemeente Amsterdam om criminaliteit te voorkomen, stigmatiseert tieners en zorgt voor ontwrichting van gezinnen. En dat terwijl sommige jongeren op de lijst geen enkel strafbaar feit hebben begaan.
Een algoritme is niet neutraal, ook een overheidsalgoritme niet
Dat de overheid volop gebruikmaakt van algoritmes is bekend. Maar deugen de data wel die daarvoor worden gebruikt?
