‘Algoritmes zijn een vierde macht, waarvoor geen regels gelden’

D66 en CDA willen strengere regels én een toezichthouder voor het gebruik van algoritmes door de overheid. Ze dienden daartoe gisteren een motie in. Hoog tijd, reageert Marlies van Eck, universitair docent en onderzoeker bij het Centrum voor Recht en Digitale Technologie van de Leidse universiteit. “Besluiten over algoritmes hebben soms grote gevolgen voor de gewone burger en worden nu vaak op het verkeerde niveau genomen.”

Wat is een algoritme precies?

“Een algoritme is een stappenplan van de computer. Vergelijk het met de was doen. Een vaste volgorde van handelingen: was oppakken, in de wasmand doen, naar de trommel brengen, waspoeder erbij, machine aanzetten. Al in 700 na Christus wisten we dat je door die vaste volgorde van handelingen wiskundige problemen kunt oplossen. Computers doen dat net zo, maar op basis van ontzettend veel data. Een bekend voorbeeld is de routeplanner. Hij berekent op basis van allerlei gegevens - files, wegopbrekingen, afstanden - hoe je het snelst op je bestemming komt. Heel efficiënt.”

De overheid maakt steeds vaker gebruik van algoritmes?

“Ja, overal, al verschilt wat ze doet per gemeente. Sommige gemeenten hebben op elke vuilniswagen sensoren en metertjes. Handig, want zo weet je welke naar de garage moet, waar je in het verleden elke anderhalf jaar alle wagens naar de garage stuurde.

“Algoritmes worden ook ingezet om kennis over mensen te krijgen. Stel, je wilt kijken of hondenbezitters wel hun belasting betalen. Je kunt in een bepaalde wijk bij elk huis aanbellen en naar geblaf luisteren. Maar door gemeentedata kun je erachter komen in welke wijk de kans het grootst is dat er mensen wonen die geen hondenbelasting betalen. Of neem de bijstandsfraude: welke mensen met een uitkering maken de grootste kans op fraude? Er ontstaat ook een probleem. Wie bepaalt nu wie er op die zwarte lijst van potentiële fraudeurs belandt?”

Zijn dat de technici die de algoritmes bedenken?

“Precies. Zij komen met nieuwe toepassingen die op het eerste gezicht vaak handig zijn. Politici en ambtenaren die ermee werken, weten alleen niet meer hoe de selectie gebeurt. De besluiten daarover worden genomen op niveaus waar ze niet horen. Er is zo in onze rechtsstaat een soort vierde macht ontstaan: die van de algoritmes. En daar is geen toezicht op.”

D66 en CDA pleiten voor de komst van een toezichthouder. Goed idee dus?

“Die is heel erg belangrijk. De overheid mag dingen doen die iemand anders niet mag: belasting heffen, mensen vastzetten. Onze rechtsstaat heeft daarvoor regels opgesteld. De overheid moet altijd kunnen uitleggen waarom ze iets doet. De algoritmes zijn nu zonder regels. Die moeten er wel komen. Het gevaar is dat anders het vertrouwen in de overheid verdwijnt. “

“Het betekent overigens niet dat iedere bestuurder of politicus alle technische details moet snappen. Wel dat er goed debat over de risico’s komt in gemeenteraden en de Tweede Kamer bij invoering van nieuwe systemen op basis van algoritmes. De besluitvorming moet op dat niveau liggen.”

In de privacywet staat toch al dat je geen beslissingen mag nemen op grond van alleen een algoritme?

“Ja, maar dit gaat vaak over zaken die het niveau van een formele beslissing niet halen. Steden worden smart cities. Overal hangen sensoren en andere meters die data verzamelen: hoeveel mensen er langslopen, hoe hard er wordt gepraat of gezongen, et cetera. Dat is heel cool. Maar dan komt er op basis van die gegevens wel een wegafsluiting, of preventief fouilleren. Dat daaraan een algoritme ten grondslag ligt, hebben we niet door. Maar het is wel belangrijk dat we goed zicht krijgen op al die algoritmes van de overheid, zodat we weten waar we mee bezig zijn en daar bewust voor kiezen.”

Motie van CDA en D66 kan waarschijnlijk op meerderheid rekenen

De motie van D66 en CDA voor meer toezicht en strengere regels geniet brede steun in de Tweede Kamer. Er moet nog wel over gestemd worden. Onduidelijk is ook of dit extra toezicht een apart orgaan moet worden, of een extra bevoegdheid voor de Autoriteit Persoonsgegevens. De Tweede Kamer pleitte in het verleden juist vaak voor meer gegevensuitwisseling tussen overheidsinstellingen, om fraude en misbruik op te sporen. Volgens de wet mogen overheden gegevens uit een database alleen gebruiken voor het doel waarvoor ze verzameld zijn, en niet zomaar koppelen. Al biedt de Europese privacywetgeving hiervoor wat ruimere mogelijkheden.

Lees ook:

Hoe autonoom zijn we nog?

Nu we nog kunnen zien hoe data onze beslissingen beïnvloeden, wordt het tijd om keuzes te maken, stelt specialist Sander Klous.