Maarten Koningsveld waarschuwt: ‘We zijn te afhankelijk van techbedrijven’

De democratische rechtsstaat is vanwege alle technologische ontwikkelingen dringend toe aan groot onderhoud, zegt voormalig ambtenaar en consultant Maarten Koningsveld. Met zijn boek ‘Democratie in crisis. De wereld verandert, nu de overheid nog’ hoopt hij de politiek en ambtenarij wakker te schudden, voordat het te laat is.

U schrijft dat tech-bedrijven zich meer en meer gedragen als een overheid die onze basis-infrastructuur regelt.

“We zijn volledig afhankelijk geworden van techbedrijven, zowel in bestuurskamers als op scholen. Corona heeft dat proces versneld. We vergaderen allemaal online en scholen geven nu al een jaar online les. Dankzij de technologie kan dat. Deze ontwikkeling beïnvloedt in hoog tempo alle onderdelen van ons dagelijks leven. Alleen, big-techbedrijven zijn geen overheid, maar commercieel gedreven. Toch stellen zíj nu de regels vast. Dat gaat niet alleen over de vraag welk gedrag zij acceptabel vinden op social media. Twitter en Facebook bepalen wiens account wel of niet wordt verwijderd. Uiteindelijk gaat het over onze privacy, en wie wat te zeggen heeft over onze eigen data. Het zijn vragen waarover de politiek zich zou moeten uitspreken in plaats van techbedrijven of andere landen.”

Door Brussel zijn een paar jaar geleden toch stevige privacyregels opgelegd?

“Dat klopt. Maar daarmee is niet alles geregeld. In politiek-bestuurlijk Nederland dringt maar langzaam door dat wij als overheid erg weinig weten van de gevolgen van de nieuwste technologische ontwikkelingen. Er wordt wel gesproken over een minister voor digitale ontwikkelingen en er is nu een vaste Kamercommissie voor digitale zaken, maar de kennisachterstand is zo groot dat de politiek niet in staat is regels op te stellen die passen in een moderne digitale rechtsstaat.

We maken bijvoorbeeld wel regels voor online advertenties, maar denken niet goed na over de hele keten daarachter. We staan toe dat Google datacentra in Nederland vestigt, maar we regelen niet van tevoren wie over die data gaat. Nu komen we erachter dat een groot deel van de data niet eens onder Nederlandse jurisdictie valt, maar onder die van de VS. Wat kun je als land dan nog?

De wereld waarin we leven verandert ingrijpend. Sinds de coronapandemie begrijpen we al veel beter wat exponentiële groei betekent. Zo’n exponentiële groei is op dit moment aan de gang met de digitale vernieuwingen. De mogelijkheden gaan razendsnel. En elke innovatie kan tegenwoordig direct wereldwijd door iedereen worden toegepast en heeft zo rechtstreeks invloed op elk huishouden. Het gaat over biotechnologie, kunstmatige intelligentie, algoritmes en een combinatie daarvan.”

U schetst in uw boek hoe oneindig de mogelijkheden en risico’s zijn. Hoe risicovol is de ontwikkeling?

“Kijk naar biotechnologie. DNA-onderzoek kan worden gebruikt om allerlei ziektes als malaria uit te bannen, maar kan evengoed voor nieuwe vormen van terrorisme worden ingezet. Hoe voorkom je dat jouw DNA-data verkeerd worden gebruikt? We weten dat stemgedrag voorspeld, maar ook beïnvloed kan worden via sociale media. De vraag is niet óf je data gebruikt worden, maar hoe we kunnen voorkomen dat het verkeerd gebruikt wordt. De toeslagenaffaire heeft laten zien hoe fout het kan gaan. Daar werden data en beslisregels gebruikt, zonder dat die bij anderen bekend waren.

Wij lopen het risico dat door deze wereldwijde versnelde technologische ontwikkelingen Nederland binnenkort niet meer zo veel zelf te zeggen heeft. Dat de regels worden bepaald door Google of Facebook, of door landen als China en de VS. Omdat ze daar die technologie al massaal inzetten en wij die kopen. Als we niets doen, geven we in ieder geval macht uit handen. En dat wil je voorkomen.”

In China zijn al smart cities, waar ieder mens digitaal wordt gevolgd. Ze werken met een systeem met een burgerschapsscore om het gedrag van burgers te beïnvloeden. Je wordt bijvoorbeeld gefilmd als je door het rode licht loopt en dan krijg je een maluspunt.

En in de VS zijn ze hiermee ook al veel verder?

“De stad Washington DC besloot tien jaar geleden al docenten te gaan beoordelen aan de hand van algoritmes. Er werden toen docenten ontslagen, omdat hun leerlingen slechtere cijfers hadden dan het jaar ervoor. Terwijl leerlingen, ouders en directeuren deze docenten juist heel goed vonden. Er klopte iets niet en een journaliste ging dat onderzoeken. Wat bleek? Docenten gaven soms te hoge cijfers om zelf beter beoordeeld te worden. Algoritmes zeggen niet alles over de kwaliteit van de leerkracht. Een leraar kon het in de ene klas heel goed doen, en in een andere veel minder. Er bleek nogal wat af te dingen op deze wijze van beoordelen. Deze techniek hebben wij ook, wij kunnen het zo invoeren. Maar je zou eerst de vraag moeten stellen: waar zet je algoritmes voor in en waarvoor juist niet?

En realiseer je dat er ook met techniek fouten kunnen worden gemaakt. Ik woon in Rijswijk en daar is nu een politieke rel over scanauto’s die door de stad rijden om geparkeerde auto’s te controleren. Opeens kregen een heleboel bewoners met parkeervergunning een rits aan boetes. Er lijken foutjes in de software te zitten. Dat kan een menselijke of technische fout zijn, maar zoiets kán gebeuren.

De vraag is ook hoe we bij zo’n fout voorkomen dat mensen door het putje gaan. Is er een noodrem aanwezig, is er vooraf voldoende kennis over welke informatie in het systeem is ingevoerd? Zoals in de toeslagenaffaire. Daar werd primair een verkeerde keuze gemaakt om de dubbele nationaliteit in te voeren. En toen deze mensen als fraudeurs werden bestempeld, vroeg noch de bestuursrechter, noch de gemeente zich af of de aannames eigenlijk wel goed waren geweest. Er werd nooit ergens getwijfeld of de regels wel de juiste waren. Op dat moment zijn burgers kansloos.”

U koppelt deze digitale ontwikkelingen doelbewust aan de democratische ontwikkelingen. Waarom?

“Er wordt van veel kanten al gezegd dat onze democratie in crisis zit, dat het systeem niet meer functioneert, dat populisten de democratie verkwanselen, dat we een sterke leider moeten hebben. Als onze data in handen komen van een sterke leider, komt ons democratisch stelsel verder in gevaar. Daarom vraagt de wijze waarop we onze maatschappij besturen dringend om onderhoud.

Je merkt dat de discussie is gestart over macht en tegenmacht. CDA-Kamerlid Pieter Omtzigt bepleit in zijn boek meer tegenmacht om de rechtsstaat te herstellen. Een terecht punt, dat velen delen. Maar het is niet voldoende. Het gaat er namelijk niet alleen om dat er fouten worden gemaakt bij de belastingdienst of sociale zaken, of een gemeente. En dat je die moet herstellen. Nee, het gaat er ook om dat er tegelijkertijd bedreigingen van buiten komen, waar onze overheid greep op moet houden.

Het gaat om de manier waarop je heel gericht mensen benadert om stemmen te beïnvloeden. Het gebeurt allemaal, we zien het om ons heen. Los van de discussie over het functioneren van macht en tegenmacht, je zult ons overheidssysteem sowieso moeten aanpassen om het toekomstbestendig te maken.”

Hoe moet die democratische rechtsstaat dan worden versterkt?

“Je moet allereerst zorgen dat je kennis hebt over wat er gebeurt. En ten tweede moet je ook voldoende kennis hebben om er iets van te vinden. Er is een verschil tussen kunnen beoordelen hoe iets werkt én er een politiek gesprek over kunnen hebben. Er loopt in Den Haag een discussie over hoe om te gaan met versleutelde berichten (encryptie). Minister Grapperhaus van justitie wil heel graag een verbod op versleuteling. Hij wil dat de overheid alleen nog via een achterdeurtje bij berichten mag komen.

Anderen vinden dit fout, omdat het een kwestie van tijd is voordat een hacker dat achterdeurtje heeft gevonden. In de veiligheidshoek zeggen ze dan: dat is een risico, maar dat nemen we graag. Dat is minder erg dan dat criminelen versleutelde berichten gebruiken om strafbare dingen te beramen. De politiek moet hierover een knoop doorhakken. Maar je merkt dat het politici aan kennis ontbreekt om er een écht politiek debat over te voeren. Het laat zien dat digitalisering nog geen volwassen, politiek onderwerp is.

Als je Kamerleden nu een digitaal college laat volgen en uitlegt hoe het allemaal zit, dan vinden ze na afloop allemaal hetzelfde. Maar dat is nog niet het punt waar we moeten zijn. Je moet het in een volwassen democratie ook écht met elkaar oneens kunnen zijn.

En de politiek moet gaan nadenken of onze verkiezingen niet onder druk staan door de technologische ontwikkelingen. Het is inmiddels vrij makkelijk stemmen te beïnvloeden door campagnes heel gericht te focussen op specifieke groepen mensen, al dan niet met gebruik van fakenieuws of andere desinformatie. Maar wie heeft er nog controle over deze processen, behalve de big-techbedrijven? De vraag is of de kiezer nog wel zelfstandig en weloverwogen keuzes maakt als zijn gedrag in de onlinewereld zo gemakkelijk blijkt te beïnvloeden? Moet er niet een heel andere manier worden gezocht om de volkssoevereiniteit te waarborgen en overheidsmacht te legitimeren?”

U bent zelf gecharmeerd van het idee van de Belgische historicus Van Reybrouck? Die pleit ervoor om verkiezingen af te schaffen en via een lotingsysteem 150 burgers te selecteren die dan vier jaar in de Tweede Kamer plaatsnemen om het kabinet te controleren.

“Het is een aantrekkelijk idee. Nu stemt bij verkiezingen maar een bepaald deel van de mensen. Daardoor wordt niet iedereen vertegenwoordigd. Als je kijkt naar de Tweede Kamer, zie je dat het ook geen evenredige vertegenwoordiging is van de bevolking. Er zitten veel meer mannen en hoogopgeleiden in het parlement. Loting geeft per definitie een betere volksvertegenwoordiging. Als de mensen die zijn ingeloot dan zijn vrijgesteld van hun gewone werk, verdiepen ze zich in de politieke onderwerpen en komen ze vanzelf tot een genuanceerdere discussie en besluitvorming. Dat heeft Van Reybrouck laten zien in zijn experiment hierover.

Het is op zijn minst interessant om te onderzoeken of de Kamer beter functioneert met mensen die zijn ingeloot, maar het is een grote stap. Ik geef toe dat zelf mogen stemmen, kiezers ook echt een gevoel geeft dat ze zijn betrokken bij de democratie. Dat moet je ook niet zomaar wegdoen.

Waar het mij om gaat, is dat ook de ideeën over democratische vernieuwingen worden gelegd langs de meetlat van de democratische rechtsstaat. De kernwaarden zijn gelijkheid, subsidiariteit, of dat je zonder wettelijke basis niet mag worden bestraft voor wat je hebt gedaan. In de kern willen we deze beginselen beschermen. Dus welke voorstellen zorgen daarvoor en welke brengen die eigenlijk in gevaar? Ik doe geen uitspraak over wat de beste manier is, ik zou willen dat er een politieke discussie over plaatsvindt. Nu gebeurt dat niet.”

Kunnen de grote techbedrijven eigenlijk wel worden beteugeld?

“We kunnen deze technologische ontwikkelingen – en bedreigingen – niet meer als klein landje alleen oplossen. Ik vind dat de overheid dat ook moet durven zeggen. Dat lukt niet alleen. Ik pleit ervoor op zoek te gaan naar een vorm van internationale samenwerking, met landen die dezelfde normen en waarden hebben en dezelfde democratische beginselen hoog willen houden. En durf daar dan een aantal onderwerpen neer te leggen. Regel het samen. Dan sta je ook sterker. De EU heeft dat laten zien met de privacywetgeving AVG. Die geldt nu als voorbeeld voor veel andere landen.”

Invloed overdragen buiten Nederland, is geen populair idee.

“Ik weet dat er in Nederland een grote stroom is die alles zelf wil blijven bepalen. Maar we hebben sinds kort in de Kamer ook een partij als Volt, die juist wel voor meer internationale samenwerking pleit. En ook D66-leider Kaag heeft hierover uitspraken gedaan. Er zijn ook duidelijk geschikte onderwerpen v00r aan te wijzen, zoals kinderporno, cybercriminaliteit, het werven van strijders voor terreur in verre landen en het beteugelen van de marktmacht van big tech.

Iedereen op een gemiddelde verjaardag begrijpt dat je deze onderwerpen als land niet alleen kan regelen. Dat je moet samenwerken. En je kan beter goed gecontroleerd op een aantal onderwerpen met andere gelijkgezinde landen samenwerken om te zorgen dat onze privacy, het gelijkheidsbeginsel en de rechten van burgers goed worden geborgd. Juist omdat je niet wilt dat straks iemand anders de regels voor je bepaalt.”

Democratie in crisis. De wereld verandert, nu de overheid nog, Maarten Koningsveld, S2 uitgevers, 15 euro.

Lees ook:
Een algoritme is niet neutraal, ook een overheidsalgoritme niet

Dat de overheid volop gebruikmaakt van algoritmes is bekend. Maar deugen de data wel die daarvoor worden gebruikt?