We worden met z'n allen wel heel erg voorspelbaar

Big Brother is onder ons maar wordt door de statistiek al weer bijna overbodig. Wie de privacy liefheeft, moet 'Walden Two' lezen, stelt Martijn van Otterlo, docent kunstmatige intelligentie.

De Big Brother-verzekeringspolis, waarbij verzekeraars korting geven voor extra informatie, komt eraan. En als je toch privacy wilt, zul je ervoor moeten betalen, berichtte deze krant vorige maand. Het is echter de vraag of privacy nog een eigen keuze is. De Big Brother-metafoor voor privacy die gaat over wie er meekijkt, is niet meer toereikend in de huidige tijd, want slimme algoritmes kunnen veel meer met Big Data. Een betere metafoor is de utopische roman 'Walden Two' (1948) waarin de psycholoog B.F. Skinner een fictieve samenleving beschrijft die volledig is geconditioneerd door positieve beloningen.

We hebben een bredere kijk op privacy nodig die gaat over hoeveel macht een individu heeft over zijn eigen informatieomgeving ten opzichte van machtige bedrijven en overheden. Traditionele Big Brother-privacy gaat vooral over toegang tot gegevens: wie kan welke gegevens inzien. Echter, gegevens worden verzameld om er iets mee te doen. Slimme computeralgoritmes ontdekken patronen om mensen te voorspellen en dan te manipuleren. Skinner (1904-1990) onderzocht gedrag en manieren voor gedragsmanipulatie met beloningen en straffen en verwerkte zijn inzichten in 'Walden Two'. Het moderne vakgebied kunstmatige intelligentie ontwikkelt algoritmes die werken volgens deze principes.

Geheime statistiek

Algoritmes kunnen menselijk gedrag statistisch voorspellen en daarmee steeds preciezer de gevolgen van manipulatiestrategieën vooraf analyseren. Voorspellingsmodellen kunnen namelijk steeds preciezer inschatten wie we zijn. Omdat mensen steeds meer digitale sporen achterlaten, zijn effecten achteraf ook te meten. Bijvoorbeeld, de invloed van kortingen op basis van klantenkaartinformatie kan gemeten worden op basis van het aantal extra verkochte producten per individu. Door de complexe (en deels geheime) statistiek van de onderliggende voorspellingsmodellen weten we echter als individu weinig over hoe bedrijven ons inschatten en waarom ze ons op een bepaalde manier manipuleren.

De volgende stap is algoritmes die meten, voorspellen en manipuleren combineren voor grootschalige experimenten. Onlangs veroorzaakte Facebook commotie door een (wetenschappelijk) experiment waarin 700.000 mensen stiekem gemanipuleerd werden met positieve en negatieve nieuwsberichten. Hier werd gekeken wat de invloed van een enkele manipulatie was, maar er zijn situaties denkbaar waarin gekeken wordt welke manipulatiestrategie de beste is, door verschillende strategieën toe te passen en te vergelijken. Sommige websites bieden duizenden varianten van hun pagina's aan verschillende gebruikers aan om te testen welke varianten de meeste respons opleveren. We zullen steeds vaker ongemerkt verzeild raken in digitale varianten van Skinnerboxes, het instrument waarmee Skinner diergedrag bestudeerde.

In dit bredere kader wordt individuele invloed op privacy steeds beperkter. Misschien kan een individu zich aan een bedrijf onttrekken, maar de invloed van andere mensen zal steeds voelbaarder zijn. Bijvoorbeeld, mijn zoekresultaten, zorgpolisvoorwaarden of supermarktprijzen worden gekleurd door informatie van heel veel mensen, ongeacht of ik mijn data deel of niet.

Het aantal manipulaties en experimenten zal sterk toenemen. Zorgpolissen, meet-apps en het elektronisch patiëntendossier bieden veel mogelijkheden. Supermarkten en banken hebben onlangs plannen geopenbaard voor het gebruik van hun eigen Big Data. Apple zet in op medische techniek en ook Google is op het vlak van smart homes, slimme (energie)meters en robots voortvarend bezig. Google is al hofleverancier van onze dagelijkse informatie en Facebook heeft potentie om een digitale 'Walden Two' te worden. En dit is slechts het topje van de ijsberg.

Parlement: ontwaak!

Skinner had een utopische, samenhangende visie op de samenleving. Maar de genoemde manipulaties hebben allemaal hun eigen, winstgedreven, motivaties. Deze impliciete beslissingen over, en experimenten met, inkomensgelijkheid, zorg, eetgewoontes, informatieconsumptie en wat 'goed gedrag' is, gaan nu buiten ons parlement om. Het is een utopie te denken dat we individueel kunnen beslissen over privacy. Het is tijd om deze ontwikkelingen als samenleving te begrijpen en er bewuste, democratische beslissingen over te nemen.

Zet 'Walden Two' dus op uw leeslijst, zeker als u politicus bent! U zult beloond worden.

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden