Het tech-optimisme moet ophouden

Hoe dehumaniserender je de tech maakt, hoe meer geld je verdient”. Deze wel erg pessimistische uitspraak deed mediaspecialist Douglas Rushkoff recent in het Amerikaanse tech-magazine Wired. Opmerkelijk, want juist Rushkoff was een echte tech-optimist en schreef in de afgelopen decennia een aantal utopische boeken over de digitalisering van de samenleving. Toch kan ook Rushkoff niet meer ontkennen dat tech veel schade aanricht.

Rushkoff maakte in het verleden een denkfout. Tegen Wired zei hij dat hij vroeger “het kapitalisme de schuld gaf” van de schadelijke kant van tech, en “de technologie zelf als onschuldig zag”. Maar technologie wordt niet zomaar gemaakt, er zit een doel achter. Technologie is een uitdrukking van de wil om dat doel te bereiken, en is om die reden niet neutraal.

Wie de berichtgeving over de vuurwapencrisis in Amerika ook maar een beetje meekrijgt, snapt dit meteen. Vuurwapens worden gemaakt om mensen mee uit te schakelen, en dus is dood en verderf het onvermijdelijke gevolg van het gebruik van die technologie.

Hiermee zeg ik uiteraard niet dat digitale technologie en vuurwapens even schadelijk zijn. Ik illustreer alleen dat technologie bepaalde doelen belichaamt. Digitale technologie wordt niet ontwikkeld om mensen te vernietigen. Toch zijn ook de doelen die achter digitale technologie schuilen niet om vrolijk van te worden.

Doelen van kunstmatige intelligentie

Neem kunstmatige intelligentie (AI). Vorig jaar verscheen het fascinerende wetenschappelijke artikel The Values Encoded in Machine Learning Research. Hierin is in kaart gebracht welke doelen toponderzoekers op het gebied van kunstmatige intelligentie in hún artikelen opvoeren als motivatie voor het onderzoek wat zij deden. Het meest genoemde doel is ‘nauwkeurigheid’, wat in 96 procent van de artikelen genoemd wordt. Bovenaan de lijst is verder bijvoorbeeld nog ‘efficiëntie’ (84 procent) en ‘vernieuwing’ (77 procent) te vinden.

Schokkend is dat geen enkel mensgericht doel – zaken als ‘privacy’ en ‘transparantie’ – in de top 30 (!) terug te vinden is. Ook is het zorgwekkend dat mogelijke negatieve gevolgen van AI in 98 (!) procent van de gevallen niet genoemd worden.

Het beeld dat hieruit ontstaat is helder. De AI-wereld dendert roekeloos verder, verblind door het geloof dat ‘betere’ technologie automatisch een betere samenleving voortbrengt. Het is precies dezelfde roekeloosheid waarmee de Belastingdienst een krakkemikkig fraudedetectiesysteem losliet op kindertoeslagaanvragers. Dat is geen toeval. Het is het logische gevolg van de manier waarop AI-technologie vandaag de dag ontwikkeld wordt.

Schade dringt helaas pas laat door

En dit tech-optimisme heerst niet alleen rondom kunstmatige intelligentie, maar zien we met iedere nieuwe digitale ontwikkeling terugkeren. Net nu onze de liefde voor sociale media en cryptomunten een beetje begint te bekoelen, draait de hype rondom kunstmatige intelligentie op volle toeren. De schade die deze roekeloosheid veroorzaakt dringt helaas pas lang nadat het kwaad geschied is tot ons door.

Daarom wil ik een einde aan tech-optimisme. Tech heeft een belangrijke rol in de samenleving, nu en in de toekomst. Maar technologie kan de samenleving alleen dienen als het zorgvuldig en oprecht met dat doel voor ogen ontwikkeld wordt. Pessimisme is ook niet nodig, een kritische houding is genoeg. Wees geen Rushkoff en doe er niet decennia over om dit te beseffen.