Het grootste manco van kunstmatige intelligentie is de bedenker. Mensen hebben niet veel op met verstandige beslissingen, zo ziet filosoof Klaas Mulder om zich heen.
Een groep Amerikaanse wetenschappers bracht afgelopen dinsdag de zoveelste waarschuwing naar buiten over de gevaren van kunstmatige intelligentie (AI). Europa werkt aan een pauzeknop (Trouw, 31 maart). In de Nederlandse media ging het al snel over algoritmes en banenverlies, maar daar zit het probleem helemaal niet.
‘Verstandige’ computers zijn vooral zo gevaarlijk, omdat mensen meestal niet zo verstandig zijn. Of erger nog, omdat we leven in een tijd waarin rationaliteit door grote groepen politici, beleidsmakers en wetenschappers wordt gezien als een hoogst overschatte manier om problemen op te lossen.
Net na de Tweede Wereldoorlog wees de Amerikaanse Nobelprijswinnaar Herbert Simon erop dat overheidsbeslissingen meestal gebaseerd zijn op een beperkte hoeveelheid data. Eind jaren zestig zorgden studentenprotesten ervoor dat de sociale wetenschappen voortaan werden gedomineerd door stromingen die meer vertrouwden op intuïtie, dialoog en waarden dan op een verstandige argumentatie op basis van waargenomen feiten.
Zonder gelijkheid geen gerechtigheid
In de Tweede Kamer worden moeiteloos meerderheden gehaald voor maatregelen waarvan niemand kan uitleggen waarom ze gaan helpen om het probleem op te lossen. Denk aan het woningmarktbeleid. Daar werden de schenkingsvrijstelling, het vervolgen van bewoners van vakantiewoningen en de zelfbewoningsplicht gemeengoed, terwijl geen weldenkend mens kon uitleggen waarom we er het probleem mee zouden kunnen oplossen. En voordat we eens goed uitgezocht hebben waarom het allemaal niet hielp, komt het volgende wetsvoorstel eraan: het verbieden van tijdelijke huurcontracten. Alsof we daarmee dan ineens wel die driehonderdduizend woningen krijgen die we nodig hebben.
Dezelfde patronen zien we in het onderwijs, de jeugdzorg, de inburgering: mensen die proberen te snappen wat werkt, worden moeiteloos onder de voet gelopen door mensen die liever doen wat goed voelt dan wat goed is. Zelf denken deze lijders aan goedheidswaan dat ze het moreel juiste doen door de wetten van het verstand te overtreden. Maar als we kijken naar de enorme aantallen slachtoffers van nogal domme (of zoals wetenschappers dat noemen: beperkt rationele) besluitvorming is het moeilijk vol te houden dat de gemaakte keuzes in het belang van de zwakkeren zijn. Zonder redelijkheid geen gerechtigheid.
Na 35 dienstjaren in alle hoeken van de publieke sector probeer ik te begrijpen waarom verstandige mensen zo vaak domme dingen doen. Ik heb het bij projecten in probleemwijken, als onderzoeker op vakantieparken en als begeleider van opgebrande studenten van dichtbij meegemaakt. Steeds weer nemen machthebbers beslissingen waarin feiten vaak nauwelijks een rol spelen. De redeneringen achter de – vaak forse! – ingrepen in het leven van kwetsbare mensen rammelen bijna altijd. De schade is immens.
Computers zijn verstandiger én moreler dan mensen die het voor het zeggen hebben
Ik doe soms een oefening waarbij we aan Spock, de rationalist uit de serie Star Trek, moeten uitleggen waarom wij hier op aarde bepaalde keuzes maken. Wat zou deze verstandige buitenaardse vriend vinden van het inburgeringsbeleid. Daarbij geven we vluchtelingen uit Oekraïne toestemming direct aan het werk te gaan met Engels als voertaal, terwijl alle andere vluchtelingen eerst jaren worden opgehokt om een taal te leren die de meesten van hen nooit goed zullen beheersen?
Het grote gevaar van AI is niet dat slimme computers even racistisch worden als de mensen die ze uitgevonden hebben. Het gevaar is niet dat de computers banen gaan overnemen waar geen verstandig mens aan zou beginnen. Hét gevaar is dat computers verstandiger én moreler zijn dan de mensen die het nu voor het zeggen hebben.
Er is helemaal niet zoveel rekenkracht nodig om te snappen dat politieke keuzes meestal tamelijk irrationele keuzes zijn: goed voor de mensen die alles al hebben en tamelijk beroerd voor de nieuwkomers, de outsiders, de havenots.
Als computers echt intelligent zijn, maken ze een einde aan de fabel dat mensen verstandige wezens zijn. En dan maar hopen dat ze niet gaan ingrijpen.
Klaas Mulder is filosoof en auteur van Foutje moet kunnen. Hoe machthebbers beslissen over wonen, welzijn en onderwijs
Lees ook:
Europa werkt aan pauzeknop voor kunstmatige intelligentie
Om mensenrechten, democratie en rechtstaat te beschermen kunnen overheden mogelijk ingrijpen om de ontwikkeling van kunstmatige intelligentie te pauzeren of te stoppen. Wat zijn precies de gevaren?
Maakt kunstmatige intelligentie mensen werkloos?
Versie 4 van ChatGPT is een feit. Even een paar slordige notities op een bierviltje inscannen, en hopla, in luttele seconden maakt deze met kunstmatige intelligentie (ki) verrijkte chatbot er een functionerende website van. Moeten programmeurs en webdesigners voor hun baan vrezen?
AI wordt gevaarlijk, waarschuwen Elon Musk, Yuval Harari en anderen. ‘Stop er tijdelijk mee’
De mensheid loopt gevaar als AI ongecontroleerd wordt losgelaten, schrijven honderden tech-experts onder wie Elon Musk, Steve Wozniak en Yuval Noah Harari.
