Algoritmes ontketenen een race tegen de toekomst

Een audiovisuele installatie van de Japanse kunstenaar Ryodi Ikeda, te zien in Filmmuseum Eye.Beeld © Ryoji Ikeda / EYE Filmmuseum

Sinds de uitvinding van de klok heeft de mens werktijden waaraan hij zich moet houden. Dat is nog te doen. Maar algoritmes op smartphones en sociale media halen de teugels heel wat strakker aan.

Tijdens het schrijven van haar proefschrift heeft ze het stimulerende effect van techno leren waarderen, en dat is behoorlijk ironisch. De elektronische ­regelmaat in dat ­muziekgenre illustreert precies wat mediawetenschapper Evelyn Wan (30) de laatste jaren onderzocht aan de Universiteit Utrecht. Niet die muzieksoort zelf, maar wel wat de regelmaat van de klok (of beat, in dit geval) doet met de werkethiek. Door die beat kreeg ze haar ruim driehonderd pagina’s tellende boekwerk, dat ze volgende maand publiceert, een stuk sneller af.

Ondanks dat opbeurende feit luidt ze daarin de digitale noodklok. De regelmaat van techno hield haar weliswaar gefocust, maar verder zorgen hedendaagse media vooral voor een nieuw juk waaronder de mens leeft. Hoofdverdachte zijn de algoritmes waarop smartphones en sites als Facebook draaien. Ze laten ons harder rennen dan we kunnen en werken tot we erbij neervallen. En door de kwalificaties waarin ze mensen onderverdelen, werken ze ook nog eens discriminatie in de hand.

Algoritmes zijn niets meer dan een verzameling berekeningen die door een computer worden gemaakt. Slimme horloges van Apple en Samsung verzamelen bijvoorbeeld allerlei lichaamsgegevens zoals hartslag, slaapgewoonten en calorieverbranding. Die combineren ze na enig gereken tot een gezondheidsuitkomst: je moet meer bewegen, of juist even stoppen met hardlopen, omdat je hart overuren maakt. Tot zover niets aan de hand.

Om te begrijpen waarom dat niet ­alleen maar goed is, moet Wan een uitstapje maken naar Michel Foucault, de Franse filosoof uit de vorige eeuw. “Het wordt allemaal aardig filosofisch”, zegt ze in een Amsterdams café – dat ze vond door navigatie-app 9292 de snelste route te laten uitrekenen.

Foucault wijdde een groot deel van zijn werk aan ‘biomacht’: het onderwerpen van een menigte of bevolking door iets anders dan fysieke straffen. De intrede van de klok is een van de ­belangrijkste voorbeelden. Je houdt er werknemers mee in het gareel door te eisen dat ze een hoeveelheid taken binnen het uur af hebben. Anders ontsla je ze, immers. En dat kan alleen met een precieze tijdsmeting. Dat is wat anders dan de werknemers met een stok slaan als ze lui overkomen. De baas hoeft ­alleen maar dreigend naar de wandklok te wijzen.

Doordat iemand ooit met radertjes in de weer ging om het eerste uurwerk te maken, kent de maatschappij dus een onderdrukkend middel: tijd. Het gaf de industriële revolutie een enorme duw in de rug, de efficiëntie schoot ­omhoog. Maar wel met overwerkte en tot het randje gedreven fabrieksarbeiders als gevolg. Door een uur af te bakenen, ontstaan daarnaast ook automatisch verschillende groepen mensen: zij die veel dozen per uur kunnen verpakken en zij die nu eenmaal wat langzamer zijn. De arbeiders krijgen, puur door de uitvinding van de klok, ineens een rugnummer waarop hun kwaliteit geschreven staat.

“Hedendaagse apps en computerprogramma’s trekken de lijn van dat disciplinerende systeem door”, zegt Wan. Een klok geeft slechts het heden weer, algoritmes juist de toekomst. Met statistiek uit het verleden – lichaams-, criminaliteits- of terreurgegevens bijvoorbeeld – doen ze een gooi naar wat de appgebruiker of overheidsdienst hierná mag verwachten. “En die gebruiker moet zich daar dan ook ineens naar ­gedragen”, zegt Wan. Hij is niet alleen slaaf van het heden, zoals de fabrieksarbeiders van weleer, maar ook van de toekomst.

Een voorbeeld is de 23-jarige Brit Adam Littler, die voor een BBC-documentaire uit 2013 undercover werkte in een magazijn van webshop Amazon. Littler kreeg een scanner in zijn hand gedrukt die precies bijhield hoe snel hij zich door de gangen van het magazijn begaf, op weg naar producten die mensen online hadden besteld. Op het schermpje zag hij de seconden afgeteld voor hij bij zijn volgende product moest zijn.

Per werkdag rende hij zo’n zeventien kilometer heen en weer. Als het algoritme in zijn scanner berekende en voorspelde dat hij op deze snelheid zijn quotum niet ging halen, kreeg de baas een melding. Littler hoorde al snel dat hij vooral aan het eind van zo’n dag rondrennen wat begon in te kakken. En dat er in die laatste uren toch echt een tandje bij moest.

Positievere voorbeelden van vooruitziende algoritmes zijn er ook. Die smartwatch die een hartaanval voorspelt als de gebruiker niet stopt met hardlopen, bijvoorbeeld. Of een smartphone-app die een push-bericht geeft als de gebruiker die dag niet genoeg heeft gewandeld op kantoor. Dat een rondje om het gebouw nodig is om de ­dagelijkse bewegingsrichtlijnen te halen.

Hersencapaciteit

“Al kun je je zelfs bij deze positieve voorspellende software afvragen wat de bedrijven erachter doen met de data die ze zo vergaren”, zegt Wan. “Zij verdienen veel geld door op basis van die data gepersonaliseerde advertenties aan te bieden. Bovendien kunnen gegevens natuurlijk altijd in verkeerde handen vallen.” Wan laat de privacydiscussie rondom Facebook en andere sociale media in haar promotieonderzoek verder voor wat die is, daar gaat haar eigen werk niet over.

De uitgebuite arbeiders uit de negentiende eeuw hadden overigens nóg iets voor op hun hedendaagse evenknie. Zij hadden de hersencapaciteit om hun disciplinerende middel, de klok, te bevatten. Die gaat immers maar met één ­seconde per seconde vooruit, precies ­zoals de mens ook in de wereld staat. Het disciplinerende systeem van nu, de apps en computers die ons zeggen wat te doen en wat te laten, werkt niet met tijd. Dat werkt met berekeningen, en wel miljarden berekeningen per seconde.

Reden te meer om je bewust te zijn van hoe ze werken, zegt Wan. “Ik vertelde een vriend laatst dat verhuursite Airbnb met algoritmes bijhoudt hoe ­betrouwbaar zijn gebruikers zijn. ­Bijvoorbeeld door in diens browsergeschiedenis te neuzen en daar persoonlijkheidskenmerken aan te koppelen. Hij schrok van de gewiekstheid daarvan. Moet ik daar eigenlijk nog gebruik van maken, dacht hij.”

Kennis hierover is het krachtigste ­wapen om het juk van algoritmes te verwerpen, concludeert Wan.

Kunst maakt digitaal bewust

Als één ding duidelijk wordt uit het proefschrift van Evelyn Wan, is het wel hoe alomtegenwoordig en tegelijkertijd onzichtbaar algoritmes zijn. Ze zitten overal: in telefoons, achter sociale media en in politie- en ziekenhuisapparatuur. De mens is niet gemaakt om die hypersnel rekenende apparatuur te vatten, terwijl het volgens Wan wel belangrijk is je ­ervan bewust te zijn.

Gelukkig is er kunst om onze ogen te openen. Momenteel toont Filmmuseum Eye in Amsterdam een tentoonstelling van Ryodi Ikeda, een Japanse muzikant en kunstenaar die de digitale wereld van cijfers en berekeningen visualiseert. Op schermen van tientallen vierkante meters dompelt hij de bezoeker onder in langsvliegende eentjes en nulletjes, DNA-­gegevens uit het menselijk lichaam en ­informatie over sterrenstelsels – en dat alles onder minimalistische elektronische muziek die langswandelend publiek het gevoel geeft in een computer te zitten.

Door dit soort kunst leert het publiek ­beter aanvoelen waarin het zich elke dag begeeft, schrijft Wan. Dat creëert ­bewustzijn. En áls dat bewustzijn er is, en iemand besluit minder gebruik te willen maken van smartphones en sociale ­media, dan zijn er manieren om daar ­afstand van te leren doen. Dat gaat wel weer met apps op de telefoon, die vertellen niet te vaak op Facebook te zitten.

Lees ook:

Flitst de beurs de bocht uit?

Voor jij het woord ‘aandeel’ hebt uitgesproken, hebben computers er al miljoenen verhandeld. Tachtig procent van de beurshandel wordt uitgevoerd door rekenmachines, in flitsen. Gaat dat wel goed?

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden