Google maakt hersendood

Nieuwe software (google, handige apps) maakt ons leven zo makkelijk, dat we vergeten te denken, betoogt Nicholas Carr

In 1988 kwam vliegtuigbouwer Airbus met een revolutionair passagierstoestel, de A320. De pedalen en hendels die in vliegtuigen altijd met kabels, katrollen en hydraulische pompen verbonden waren geweest met de bewegende delen, waren vervangen door een computer. De analoge wijzerplaten en meters hadden plaatsgemaakt voor zes grote schermen.

Dit was een 'glazen cockpit', zeiden piloten. De verbinding tussen piloot en techniek veranderde fundamenteel. De piloot werd toeschouwer in plaats van deel van de machine, en in plaats van mechanische krachten voelde hij alleen nog maar knopjes. Het was een belangrijke stap in de ontwikkeling van de automatische piloot - een ontwikkeling die nog niet is afgelopen en binnen afzienbare tijd gaat leiden tot vliegtuigen waar niet eens piloten meer voor nodig zijn.

De automatische piloot staat symbool voor de automatisering die onze hele wereld door elkaar aan het schudden is, zegt Nicholas Carr in zijn nieuwe boek. Carr is een Amerikaanse journalist die onder andere voor The New York Times en Wired over nieuwe technologie schrijft. De glazen kooi uit de titel verwijst naar de glazen cockpit, die uiteindelijk dreigt te verworden tot een gevangenis. Want steeds vaker bepaalt de computer in plaats van wijzelf in hoeverre we nog mogen meedoen.

Nee, Carr behoort duidelijk niet tot de techno-optimisten die jubelen dat de digitale revolutie de mens vrijmaakt. Dat is al bekend bij mensen die 'Het ondiepe' (2010) hebben gelezen, waarin hij betoogt dat internet onze manier van denken en de structuur van onze hersenen verandert. Maar daarom is dit nog geen mopperboek geworden. Integendeel, Carr blijft nuchter en analytisch. Soms een beetje houterig - al lijkt dat meer te liggen aan de keus van de vertaler om heel dicht bij het Engels te blijven.

Carr bekijkt nauwgezet de wetenschappelijke onderzoeken, en bestudeert de concrete voorbeelden die laten zien wat automatisering precies met ons doet. Niet alleen in het vliegtuig, in het ziekenhuis, bij de bank of in de fabriek, maar ook in ons persoonlijke leven worden steeds meer taken overgenomen door geautomatiseerde systemen. We vertrouwen op algoritmes, we raadplegen schermen en we volgen het advies van onze apps. Er zijn al bedrijven, zoals Xerox, die de computer laten uitrekenen welke sollicitanten moeten worden aangenomen.

Heel handig natuurlijk, maar automatisering heeft een heleboel onbedoelde bij-effecten. Niet alleen op de werkgelegenheid, maar ook op ons eigen brein. Dat leert namelijk door diep geconcentreerd, liefst met verschillende zintuigen, aan een probleem te werken. Hoe meer we aan de automatische piloot kunnen overlaten, hoe minder onze eigen vaardigheden groeien. Daarom pleit zelfs de internationale luchtvaartsector intussen voor een grotere rol van piloten, omdat ze in complexe crisissituaties anders het roer niet meer kunnen overnemen.

Voor software-ontwikkelaars is dat niet efficiënt. Die willen een wereld waarin niet alleen vervelende klussen, maar in toenemende mate ook intellectuele arbeid, wetenschappelijke afwegingen, morele keuzes en alle andere moeilijke opdrachten door apparaten en programma's worden overgenomen. Carr laat zien dat de afstand tussen onszelf en onze omgeving daardoor op allerlei manieren toeneemt. Welke keuzes precies worden gemaakt, en of we misschien worden gemanipuleerd, dat wordt steeds moeilijker te onderscheiden. De techneut zegt: maakt niet uit, als het maar werkt. Maar zo simpel ligt het niet, concludeert Carr. We moeten lichamelijk betrokken zijn bij onze omgeving, omdat we anders niet goed kunnen leren, minder creatief worden en minder voldoening ervaren in wat we doen.

Achter de evenwichtige zinnen van Carr schuilt een vraag die in de loop van zijn boek steeds dringender wordt: waar gaat het heen? Onze identiteit, ons menszijn, wordt gevormd door het overwinnen van weerstand. Wij willen graag resultaat, maar we ontplooien ons alleen op de weg daarnaartoe. Wat als we dat wegautomatiseren? "Technologie maken we het liefst zo gemakkelijk dat je er zelfs nog mee kunt werken als je hersendood bent", zegt Google-directeur Alan Eagle, en dat is geen grootspraak, zegt Carr, want Silicon Valley werkt serieus aan een 'frictieloze' wereld, waar alle wrijving is opgeheven en alles zich voegt naar onze voorkeuren. Wie zijn wij dan nog? Een programmeerbaarder leven is efficiënt en handig te managen, maar als we niet uitkijken blijven wij achter als ontevreden, incapabele, manipuleerbare mensen zonder creativiteit. Die uiteindelijk niet eens meer nodig zijn ook.

Dat Carr daar zo nuchter onder blijft, is misschien nog wel het knapste van zijn verhaal.

Nicholas Carr: De glazen kooi. Wat automatisering met ons doet. (The Glass Cage: Automation and Us) Vertaald uit het Engels door Huub Stegeman. Maven Publishing; 334 blz. euro 22

Afgeleid: van alle tijden

De titel van de nieuwe Damon Young, van wie hier al eerder 'Filosoferen in de tuin' uitkwam, doet vermoeden dat deze Australische publieksfilosoof net als Carr waarschuwt voor de psychologische effecten van onze digitale levensstijl. Maar hoewel Young erkent dat deze tijd grote eisen stelt aan ons concentratievermogen, is het probleem volgens hem in wezen van alle tijden. Van Seneca tot Proust: vele grote geesten hebben het probleem erkend, benoemd en overwonnen. Soepeltjes van de één na de ander schakelend, geeft Young daarvan tal van voorbeelden. Het helpt volgens hem niet om je terug te trekken uit de drukte. "Nee, het gaat om de vrijheid je geestelijk te ontwikkelen, jezelf met geduld en overgave te verbeteren in een onvolmaakte wereld: vrijheid als een existentieel avontuur." Vrijheid ligt dus niet in het meewaaien met elke nieuwe impuls, ook niet in die van het (techno)escapisme, maar in het weten wat onze aandacht verdient. Om daar achter te komen moeten we onszelf volgens Young 'als project benaderen'. Zo liet Marx zijn huis verslonzen omdat hij zijn werk écht belangrijk vond. Voor minder gedreven mensen beveelt Young een herwaardering aan van het concept Bildung. Met John Stuart Mill ziet hij de mens als 'een boom die moet groeien en zich in ieder opzicht dient te ontwikkelen'. Maar voordat we ons kunnen afvragen of die groei 'in alle richtingen' niet eerder afleidt van onze eigen opdracht, is de vlotte filosoof alweer naar een ander onderwerp overgestapt: moeten we ons laten afleiden door onze vrienden? Het antwoord is: ja. Want relaties zijn ook belangrijk.

Dat is het probleem met dit boek: het zeilt aan alle echte vragen voorbij en komt altijd, eventjes, uit op een gedachte waar niemand het mee oneens kan zijn. Feelgoodfilosofie.

De piloot die niets meer hoeft te doen: dat zijn wij zelf geworden

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden