Massasurveillance bestaat niet alleen in China, ook hier sijpelt het de maatschappij binnen

De Chinese overheid gebruikt de modernste technieken om burgers goed in de gaten te houden. Hier in Nederland omarmen we dezelfde technieken geheel vrijwillig. ‘Ik denk dat verschillen met China soms kleiner zijn dan we denken.’

Overal hangen camera’s; op straat, tussen de bomen, gericht op de voordeur, boven de snelweg, in het klaslokaal. Met gezichtsherkenningssoftware wordt bekeken of de leerlingen in de klas vrolijk zijn, of juist chagrijnig. En er zijn poortjes waar je moet inchecken met een code op je smartphone als je van de ene buurt naar de andere gaat. Zo weet de Chinese overheid altijd waar je bent, of je gezond bent en hoe je je voelt. Dat klinkt griezelig, maar hoe dat voelt wordt pas echt duidelijk als je het meemaakt.

Jialing Zhang maakte een film over de controle door de Chinese overheid die grotendeels is gefilmd door mensen die er dagelijks mee te maken hebben. “We wilden niet over massasurveillance praten, maar echt laten zien hoe het is om in zo’n samenleving te leven”, vertelt Zhang via een videoverbinding vanuit Denemarken. Twee jaar werkte de Chinese filmmaker op afstand aan de documentaire Total Trust, die grotendeels werd gefilmd tijdens de pandemie. Dat maakte reizen voor Zhang ingewikkeld, dus maakten lokale filmmakers de beelden en deed zij de interviews via een beeldverbinding. Afgelopen zaterdag was de film te zien op het Movies that Matter-festival.

Onder de radar is er weinig aan de hand

Zolang je je onder de radar begeeft is er niet zoveel aan de hand in China, maar de drie vrouwelijke hoofdpersonen in de film trokken ongewild de aandacht van de overheid. Niet dat ze iets verkeerd hadden gedaan; twee van hen zijn getrouwd met advocaten, de derde is een journalist. Wel zijn ze alle drie activisten die aandacht vragen voor de mensenrechten in China.

Zo zit de man van Zijuan Chen al sinds oktober 2020 in de gevangenis omdat hij zich schuldig zou hebben gemaakt aan ‘het aanzetten tot tegenwerking van de Staat’. Het proces is nog niet geweest en Zijuan heeft hem al maanden niet gezien. Ooit was ze huisvrouw, inmiddels vult ze haar dagen met aandacht vragen voor de verdwijning van haar echtgenoot. Dat zette haar op de kaart bij de overheid, die haar nu gezien en ongezien volgt. Echt bewijs heeft ze niet, maar het is al te toevallig dat de covid QR-code op haar smartphone zonder reden ineens niet meer geldig is. En hoe kan het dat ze op de dag van het proces van haar man van de snelweg wordt geplukt door een hele batterij politieagenten? Uren mag ze het asfalt niet af, waardoor ze de rechtszaak mist.

Sociaal kredietsysteem

Veel Chinezen hebben niet in de gaten hoe het systeem werkt, ook omdat de propaganda uiterst effectief is, zegt Zhang. “Maar weinig mensen hebben toegang tot het vrije internet en er is geen persvrijheid. Propaganda zit ingebakken in de vocabulaire.”

Zo zien we in de film hoe er in Rongcheng, een stad in de provincie Shandong, sinds 2012 een proef bezig is met een verplicht sociaal kredietsysteem. Burgers controleren elkaar, bijvoorbeeld of ze hun afval wel op de juiste manier weggooien en of de fiets netjes staat geparkeerd. Daarmee verdienen ze punten. En ze verliezen punten bij overtredingen zoals foutparkeren of het niet kunnen aflossen van schulden. Het werkt eenvoudig met een appje op je smartphone, en veel Chinezen zien het als een leuk spelletje.

Er wordt op grote schaal geëxperimenteerd met dit soort initiatieven, zegt Zhang. “De overheid noemt het ‘Smart City Initiative’ of ‘Safe China Initiative’. Dat klinkt heel goed; de regering predikt vooral hoe handig en veilig het is, en hoe het land erop vooruitgaat. Veel mensen vertrouwen de overheid door de propaganda en denken dat het sociale kredietsysteem helpt bij een beter georganiseerde en veiligere maatschappij.”

Volgens Zhang is het publiek zich niet bewust van het potentiële gevaar van de camera’s die overal worden geïnstalleerd, en de gezichtsherkenning. En dat geldt ook voor westerse samenlevingen. “China loopt misschien een paar jaar voorop. En het is waarschijnlijk moeilijker om het op deze schaal in Europa te introduceren omdat er betere regelgeving is en een democratie met een meerpartijenstelsel, maar het is wel mogelijk.”

Mogelijke fraudeurs

“Er zijn al voorbeelden, zoals de Franse overheid die gebruikmaakt van camera’s met gezichtsherkenning voor de Olympische Spelen in 2024. En in Duitsland gaat het debat nu over of de politie gebruik mag maken van software en data op sociale media om profielen op te bouwen van potentiële verdachten, nog voordat de misdaad is begaan. En wat te denken van de toeslagenaffaire in Nederland waarbij profielen werden opgebouwd van mogelijke fraudeurs op basis van een dubbele nationaliteit. Het is discriminatie op basis van data. En het zijn altijd de kwetsbaarste mensen die hieronder lijden. Alleenstaande ouders, mensen in achterstandswijken”, aldus Zhang.

Gelukkig leven we nog niet in klein China, zegt Hans de Zwart. Hij doet onderzoek naar verantwoorde inzet van IT aan de Hogeschool van Amsterdam, is mede-oprichter van het Racism and Technology Center en zag Total Trust afgelopen weekend. ”Ik denk wel dat de verschillen met China soms kleiner zijn dan we denken. Wij zijn ook op allerlei manieren bezig sociale controle uit te oefenen en gedrag te normeren met behulp van surveillance. Alleen is het hier grotendeels een private infrastructuur die we zelf ophangen, denk aan de beveiligingscamera waarmee je op afstand kunt zien wie er voor je deur staat. Dit soort infrastructuur kan ook eenvoudig worden gebruikt door de politie, we zien al dat de overheid zich steeds meer middelen toe-eigent. ”

De Zwart maakt zich zorgen over de gedachteloosheid waarmee we dit soort surveillance-technologie in onze maatschappij toestaan. “Dit soort technologie wordt altijd geïntroduceerd bij mensen die daar weinig tegenin te brengen hebben. Denk aan gevangenen, migranten, kinderen. Mensen bij wie we onvoldoende zorgen hebben over hun rechten. Daarmee normaliseert het en komt het daarna langzaam de rest van de maatschappij ingesijpeld. Dat wordt ook wel de ‘shitty technology adoption curve’ genoemd; de adoptiecurve van vervelende technologie, zoals bijvoorbeeld camerasurveillance.”

Preventief waarschuwen

De Zwart ziet meer parallellen met de Chinese situatie. Als voorbeeld noemt hij de scène in Total Trust waarin een aantal agenten zich op klapstoelen posteert voor de voordeur van een van de hoofdpersonen. Ze willen verhinderen dat de advocaat gaat spreken op een buitenlandse ambassade op de Internationale dag van de rechten van de mens. Volgens regisseur Zhang is het in China gebruikelijk om activisten op dit soort dagen thuis op te sluiten.

Ook in Nederland gaat de politie regelmatig preventief langs bij activisten, zegt De Zwart. “Ze komen aan de deur om te zeggen dat ze je in de gaten houden en om te waarschuwen dat je niet mag oproepen tot illegale activiteiten, want anders word je preventief opgepakt. Het is een expliciete strategie om bij mensen langs te gaan om te laten zien dat ze in beeld zijn, en met de verwachting dat mensen daardoor hun gedrag aanpassen.”

‘Door onzekerheid gaan mensen zelfcensuur toepassen’

Hoe je precies aan een vlaggetje achter je naam komt blijft vaak onduidelijk en ook dat is deel van de strategie, zegt De Zwart. “Misschien is het big data, maar het kan ook een informant zijn. Dat schept onzekerheid en het gevolg daarvan is dat mensen zelfcensuur gaan toepassen. Ze doen dingen maar niet meer omdat ze denken dat ze misschien in beeld zijn. Het is alsof je permanent naast een politieauto rijdt: ook al doe je niets verkeerd, toch krijg je een vervelend gevoel en check je nog een keer of je je gordel wel om hebt. Dat model zijn we langzaam aan het introduceren in onze maatschappij. Maar als we een vrije samenleving willen, dan moet je een bepaalde mate van onveiligheid accepteren. Dat zie je ook aan die Chinese activisten, die willen vrijheid.”

Wie denkt dat er niets aan de hand is zolang je je netjes gedraagt, heeft een misplaatst vertrouwen in de overheid, zegt De Zwart. “Daarbij getuigt het van een totaal gebrek aan empathie met mensen die het moeilijker hebben dan jij. Met name de kwetsbaarste mensen in de samenleving worden benadeeld door computermodellen die gebruikmaken van kunstmatige intelligente, bijvoorbeeld mensen in een achterstandswijk of mensen met een afstand tot de arbeidsmarkt.”

“Je automatiseert vooroordelen als een computer gebruikmaakt van historische data waarin jarenlang op een bevooroordeelde wijze is besloten waarom iemand extra moet worden onderzocht op bijvoorbeeld uitkeringsfraude. Zo’n model is gebaseerd op een verleden waarin niet iedereen gelijk werd behandeld. Er worden wel technieken ingezet om dat te voorkomen, maar die schieten tekort. De computermodellen hebben de vooroordelen van de maatschappij in zich en dat kunnen we alleen verbeteren door de maatschappij te verbeteren.”

Total Trust is aanstaande zaterdag 1 april om 12:15 uur te zien in het Filmhuis Den Haag

Lees ook:

Kunstmatige intelligentie is een spiegel van de maatschappij. ‘Je krijgt terug wat je erin stopt’

Wie brengt een systeem met kunstmatige intelligentie normen en waarden bij. De Verenigde Staten, China, of Europa?