null Beeld
Beeld

ColumnBert Keizer

Een computer heeft geen geestelijk leven. Maar hoe zit het dan bij ons?

Bert Keizer

Eindelijk is het gebeurd. Ik las het in Trouw van 14 juni: ‘Google-ingenieur: onze chatbot is tot leven gekomen’. Ook de NRC haakte in: ‘Een machine met een ziel. Moest het er niet een keer van komen, nu we ook al sprekende, luisterende, schrijvende en vertalende apparatuur hebben?’

De Google-ingenieur heet Blake Lemoine en het programma dat hem deed beseffen dat hij met een bewuste ziel sprak heet: LaMDA (Language Model for Dialogue Applications). Google moet er niks van hebben en Blake Lemoine is op non-actief gesteld. De vraag is of er in Blake Lemoine een schroefje los zit. Of is het zo dat de schroefjes in LaMDA op dusdanige wijze vastzitten dat er een ziel uit oprijst? Als u ‘ziel’ te zeer een christelijk beladen woord vindt, dan zeggen we: een denkende en voelende geest. Kan die uit een computer oprijzen?

Anders dan het doden van een kip

Het mooiste voorbeeld van een mogelijk denkende machine is de computer HAL uit Kubricks 2001, a Space Odyssey. HAL’s ‘leven’ dooft langzaam uit als de astronaut die hij probeert uit te schakelen hém uitschakelt door één voor één zijn circuits te ontkoppelen. In een huiveringwekkende scène hoor je hoe de hyperintelligente HAL eindigt in het machteloos brommen van een kinderliedje. Als kijker vrees je niet voor HAL’s ervaren ellende, want je meent dat hij niks ervaart. Het stopzetten van HAL is echt heel andere koek dan het doden van een kip. Dat begint al bij het vangen van het slachtoffer, ik bespaar u de details.

Het spannende in het bericht rond Blake Lemoine is dat hij echt een denkende en voelende geest ervaart in het communiceren met LaMDA. Het programma zegt (of ‘zegt’) desgevraagd dat ‘het’ bang is om uitgeschakeld te worden. Het zou dat als de dood ervaren. Dat is dan een verrekt goed gemaakt programma, zegt de een. Dit is geen programma meer, zegt de ander. Intuïtief willen we er niet aan dat voelen en denken binnen een computer kunnen ontstaan, want hij bestaat uit moleculen. Maar voelen en denken ontstaan ook in ons lichaam dat eveneens uit moleculen bestaat.

Filosofen bijten zich al vele decennia stuk op de vraag of geest kan ontstaan uit stof. Ik zeg het verkeerd, want je ziet elke dag om je heen dat dat kan. Alle levende wezens bestaan immers uit stof en hebben een geestelijk leven. Met geestelijk leven bedoel ik het vermogen om pijn te voelen bijvoorbeeld. De vraag is of geest kan ontstaan als wij iets ingenieus met stof doen. Denk aan een namaakhond die bijvoorbeeld pijnlijk jankt als je op zijn staart trapt. Valt die zo goed te maken dat je denkt dat hij echt iets voelt? Een echte hond heeft een warme natte tong en een zeer bepaalde mondgeur die denk ik niet in de werkplaats valt te vervaardigen. De hele eet-, drink- en poepwereld bestaat niet voor de namaakhond. Opladen is alles wat er gebeurt. Nee, zo’n namaakhond zou gauw door de mand vallen.

Kijk wat er gebeurt bij een kleine verwonding tijdens het groente snijden

En een namaakmens? In heel wat films komen ze voor. Van buiten ogen ze als een mens en ze doen als een mens. Je kunt met ze praten, zoenen, vechten en paren natuurlijk. Maar er zit geen geestelijk leven in. ‘Zombies’ is het jargon. Ik denk dat de namaakmens nog veel eerder ontmaskerd wordt dan de namaakhond. Kijk wat er gebeurt bij een kleine verwonding tijdens het groente snijden: niks. Open zijn mond en kijk naar zijn tong, tanden, de huig, de natte glans die je daarbinnen hoort te zien. Je kunt fantaseren dat dat allemaal valt na te bootsen, maar de fantasie draait er dan op uit dat je een volledig functionerend mensenlichaam zult moeten bouwen. Goed, en zit daar dan een geest in? Nou weet ik niet meer wat ik moet zeggen. ‘Ja’ klinkt net zo ongefundeerd als ‘nee’.

Terug naar Lemoine en dat taalprogramma. Hier wordt helemaal geen mensenlichaam nagebouwd. Het enige aanknopingspunt voor een geestvermoeden is het taalgebruik. Het ‘lichaam’ van deze ‘geest’ is de computer. Je kunt hem niet eens een stoel aanbieden, of een kus. OK, dus die computer heeft geen geestelijk leven. Maar hoe zit dan bij ons? Waarom lukt het wel met ons moleculair arrangement?

Bert Keizer is filosoof en arts bij het Expertisecentrum Euthanasie. Voor Trouw schrijft hij wekelijks een column over zorg, filosofie, en de raakvlakken daartussen.

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden