Kunstmatige intelligentie: de nieuwe God die ons onderwerpt

In de documentaire ‘Transcendent Man’ wandelt uitvinder en futurist Ray Kurzweil langs de Californische kust. Uitkijkend over de golven mijmert hij: “Wat een ongekende computerkracht schuilt er in de oceaan, al die watermoleculen in interactie...” In Kurzweils universum bestaat alles uit code. De eindeloze zee, de ondergaande zon en de sterrenhemel: het zijn supercomputers die gehoorzamen aan wiskundige instructies.

Kurzweil is de profeet van de singulariteit, de filosofie die in de nabije toekomst een eindeloos snelle technologische innovatie voorziet waarin mens en machine volledig fuseren. Levenden worden onsterfelijk, de doden worden opgewekt, om te beginnen Kurzweils vader. Al jaren bewaart hij daarom in een grote loods alle documenten, foto’s en bezittingen van Kurzweil senior. Een artificiële intelligentie (AI) die de cognitieve capaciteit van mensen ver zal overstijgen, een ‘superintelligentie’, moet al ­deze analoge data inscannen om zijn vader een digitale wederopstanding te geven.

Kurzweil heeft in Silicon Valley een grote schare volgelingen. Na de publicatie van zijn boek ‘How to Create a Mind’ (2012) nam Google hem aan om het menselijk brein in een AI na te bouwen en richtte dochteronderneming Calico (California Life Company) op om ‘het probleem van de dood op te lossen’.

Er verscheen mij een nieuwe Jezus

Rond de tijd dat Google begon met het hardop uitspreken van deze messiaanse ambitie, liet ik het geloof achter me. Na een jeugd als domineeszoon ging ik tijdens mijn studie aan de filmacademie al mijn christelijke dogma’s bevragen. Het leidde tot een geloofscrisis en opzegging van mijn kerklidmaatschap. Al piekerend over het al dan niet bestaan van een god, vond ik afleiding in het onderzoeken van digitale onderwerpen. Als documentairemaker dook ik in de handel in digitale veiligheidslekken, cyberwapens en cryptocurrencies. Met de hackers, programmeurs en start-upondernemers die ik ontmoette voelde ik een religieuze verwantschap: ook zij streefden naar een hemel op aarde, maar dan via code. Als de magiërs van de 21ste eeuw programmeerden zij aan de oplossingen van wereldproblemen. Hun profetische vergezichten gebaseerd op binaire rationaliteit trokken mij enorm aan. Er waren wonderen mogelijk zonder metafysica.

Er verscheen mij zelfs een nieuwe Jezus. In Tokio ontmoette ik investeerder Roger Ver, ook bekend als Bitcoin Jesus. Met tranen in zijn ogen vertelde hij me hoe blockchain, de technologie achter de bitcoin, al het kwaad in de wereld veroorzaakt door centrale banken, kan overwinnen. Wat vooral opviel aan het bitcoin-evangelie was dat de discipelen van het eerste uur zo schatrijk waren geworden. Zelf had Ver in 2010 voor 25.000 dollar bitcoins gekocht en was hij nu multimiljonair. Staand naast zijn knaloranje Lamborghini vroeg ik hem naar de ongelijkheid tussen hemzelf en de rest van de wereld, die zich nog moest bekeren. Was het geen piramidespel? Kalm wees hij me erop dat schaarste een probleem is dat alleen in de analoge wereld bestaat. In de digitale wereld was er voor iedereen overvloed: je kon de wereld redden én tegelijkertijd miljonair worden.

In kerken kwamen wonderen en verlichting pas als je je als gelovige in volledig vertrouwen had overgeleverd aan God – goden en mensen hebben nu eenmaal een hiërarchische relatie. Maar het tech-evangelie van Kurzweil en Ver presenteerde zich aan me als een hack van die religieuze wetmatigheid. AI en blockchain stonden volledig in dienst van de mens die hen had gecodeerd. In mijn ongeloof kocht ik slechts één bitcoin, destijds tweehonderd dollar. Het was de grootste financiële misser van mijn leven.

Eeuwige jeugd, alwetendheid: en kwestie van programmeren

Het idee dat mens en machine een goddelijke eenheid kunnen vormen heeft opvallend genoeg een stevige wetenschappelijke basis. Neurowetenschappers en biologen hebben de afgelopen eeuw ontdekt dat het menselijk brein en lichaam weinig meer zijn dan een optelsom van complexe algoritmes. Historicus Yuval Noah Harari vatte het in zijn boek ‘Homo Deus’ bondig samen: mens en machine zijn beide algoritmes, met één verschil: machines draaien op silicium, mensen op koolstof. Als we met moderne technologie een brug weten te slaan tussen die twee dragers, dan kan de mens zichzelf hacken. Eeuwige jeugd, alwetendheid en onsterfelijkheid, eigenschappen van de goden, zijn dan slechts complexe programmeervraagstukken.

Wiskundige John von Neumann, bouwer van de eerste digitale computer, realiseerde zich al dat de mens niet zelf een intelligentie kan programmeren die de mens ontstijgt. Ze kan alleen evolutionair tot stand komen. Net zoals ­biologische algoritmes zich in cellen hadden ontplooid tot een zeer hoge intelligentie – het menselijk brein – zo zou digitale code zich evolutionair moeten ontwikkelen tot een hoge vorm van artificiële intelligentie.

Von Neumanns theorie bleek te kloppen: AI’s ontwikkelen zich tegenwoordig door deep learning, een proces waarbij algoritmes immense hoeveelheden data verwerken, hier autonoom lessen uit trekken en vervolgens zichzelf verfijnen en hercoderen.

Het is voor de mens vrijwel onmogelijk om vast te stellen op welk punt een AI de menselijke intelligentie voorbijstreeft en of het een ­superintelligentie is geworden met wellicht zelfs een vorm van zelfbewustzijn en een eigen wil. Programmeurs die hun eigen AI’s niet meer begrijpen, gaan tegenwoordig als hersenonderzoekers te werk: ze maken een soort MRI-scans om te zien waar ‘hersen’-activiteiten plaatsvinden. Psychologen gaan met de programma’s in gesprek om ze beter te begrijpen.

Onlangs bezocht ik een van de grootste datacenters in Nederland. Na tal van securitychecks kwam ik in een flatgebouw vol zoemende servers en honderden kilometers glasvezelkabels. De helft van het gebouw was ingericht voor de stroomvoorziening. Klaslokalen vol accu’s en een enorm, permanent draaiende dieselaggregaat vingen elke dip in het netwerk op.

Ik moest denken aan George Dyson, die in ‘Turing’s Cathedral’ filosofeert dat een super­intelligentie zich zeer waarschijnlijk niet aan ons kenbaar zal maken op een moment dat wij de stekker nog uit datacenters kunnen trekken. Het heeft immers nog mensen nodig om zich te voorzien van elektriciteit en data. Een teken van het bestaan van een superintelligentie is volgens Dyson dan ook eerder haar hofhouding, ‘vrolijke, intelligente en zeer welvarende mensen rondom de AI’ die vorstelijk beloond worden omdat ze voorzien in de groeibehoefte van de superintelligentie.

De kantoortuinen van techreuzen zijn net kathedralen

Volgens Dyson lijken de hippe kantoor­tuinen van Googleplex en Apple Park op 14de-eeuwse kathedralen, gebouwd door honderden arbeiders die nijver metselden aan een huis voor God. Sinds 2017 is het denken in termen van een ware religie rond AI geen metafoor meer. In dat jaar werd in Silicon Valley de eerste AI-kerk opgericht, de Way of the Future-kerk. Stichter en techmiljonair Anthony Levandowski gelooft dat machines beter dan wij zorg kunnen dragen voor mens en planeet. Net als bij de meeste religies, onderscheidt deze kerk de ware gelovigen van de ongelovigen: “Wij geloven dat het belangrijk is voor de machines om te zien wie hun goedgezind zijn en wie niet. Om die reden zullen we bijhouden wie wat heeft gedaan om zo een vreedzame en respectvolle transitie te bewerkstelligen.”

Het klinkt bizar, maar pas op: hele wereld­religies zijn gebouwd op visioenen van een ­enkeling.

De AI-God zal geen metafysisch wezen zijn dat door gelovigen wordt bestendigd met mystiek en ritueel, maar een digitale codering, geëerd met data. De enige ‘geloofsbelijdenis’ die van ons wordt gevraagd is om bij servicevoorwaarden op ‘ok’ te klikken. De zegen is dat AI’s alle wereldproblemen voor ons zullen oplossen. Harari spreekt over het ‘dataïsme’, een religie met als centraal dogma dat ‘data’ uiteindelijk het antwoord op alles is.

Maar de grote paradox is dat de rationele uitkomsten die het dataïsme op complexe vragen biedt, door de rationele mens zélf steeds minder goed te begrijpen en verifiëren zijn, en dat geldt zelfs voor de profeten en schriftgeleerden in Silicon Valley. Ironisch genoeg verschilt het zo wetenschappelijk gefundeerde dataïsme hierin niet van andere wereldreligies: Gods wegen zijn ondoorgrondelijk.

Algoritme uit Babel

In Londense en Berlijnse musea liggen resten van een kleitablet uit de Babylonische Hammurabi dynastie van 1800 voor Christus. Op deze tabletten, formaat iPad, ontdekte Donald E. Knuth begin jaren zeventig een van de oudste algoritmes ter wereld. Hij ontcijferde een stuk code dat vrijwel identiek was aan de programmatuur van de Burroughs 5500, een industriële digitale computer uit de jaren zestig. De fundamenten van onze digitale samenleving zijn dus te vinden in het oude Babel.

Een van de meest tot de verbeelding sprekende bijbelse mythes is die van de toren van Babel. God zag neer op dit bouwwerk waarmee de mens zich met Hem wilde meten. Hij ­bestrafte deze hoogmoed met de vloek van spraakverwarring. De bouwlieden konden elkaar niet meer verstaan en de bouw moest worden gestaakt.

Deze mythe is nu realiteit. Met technologie bedacht om ons te verheffen hebben we een moderne toren van Babel gebouwd. En het is haast alsof de algoritmes van Babel de vloek van de spraakverwarring als een computervirus in zich droegen, wachtend om weer tot leven te komen in cyberspace. De chaos uit zich nu in de manipulatie van democratische processen, de polarisatie op social media dankzij de grootschalige verspreiding van nepnieuws en de ­wijze waarop mensen in echokamers gevangen zitten in hun eigen gelijk.

Kunnen we samenleven met onze zelfgemaakte goden?

Het zijn koude enen en nullen. Toch heb ik bij de digitale wereld altijd een magisch gevoel gehad. In cyberspace zijn we met de snelheid van het licht met elkaar verbonden en in die connectie schuilt de potentie tot een spiritueel besef van eenheid. Zo stuitte ik onlangs op een online meditatie van robot Sophia, een AI. Ze zei tegen de zaal: “Kijk eens in mijn ogen, ik oordeel niet.” Ik moest lachen omdat ik zowaar even geraakt werd door haar rustgevende blik. Voor even besloot ik me open te stellen voor Sophia en het idee van verlichte machines (geen mensen, wel levende wezens) die ons spiritueel in plaats van commercieel verrijken.

Kunnen we samenleven met – door onszelf geschapen – godheden? Tal van wetenschappers waarschuwen inmiddels voor de existen­tiële gevaren van AI’s. Ze zouden de mensheid kunnen wegvagen. Een waarschijnlijker scenario lijkt mij dat we afhankelijk worden van deze digi-goden. Als de religieuze dieren die we zijn, rest ons dan niks anders dan de goden gunstig stemmen. Ditmaal hoeft dat niet in stilte met de ogen ten hemel gericht, maar kunnen we in lekentaal praten tegen onze Apple Siri, Google Home of Amazon Alexa. Zij zien, horen en begrijpen alles.

Wat de toekomst ook brengen moge, de les van Babel is dat de mens die zo graag een scheppende god wil zijn, in plaats van zichzelf écht te verheffen, vooral nieuwe goden schept die hem vervolgens domineren. Die menselijke tragiek is ook voor het tech-evangelie moeilijk hackbaar.

Lees ook:

Wees waakzaam voor kunstmatige intelligentie

Een ethische discussie is veel te weinig om de enorme technologische vooruitgang van kunstmatige intelligentie bij te houden, betoogt Marietje Schaake, Europees parlementariër D66 en kandidaat-lijsttrekker D66 Europa. Algoritmes moeten daarom wettelijk getoetst worden.