Nogal misleidend, om de fouten van ChatGPT ‘hallucinaties’ te noemen

ChatGPT is de chatbox die de wereld ­intrigeert en verbijstert. Met behulp van kunstmatige intelligentie schrijft het perfecte teksten over elk onderwerp, heet het. Maar ChatGPT maakt ook fouten, grove en gevaarlijke fouten soms. Feitelijke onjuistheden, rekenfouten, de verspreiding van fake nieuws, verkeerde medische informatie. Die fouten worden hallucinaties genoemd. ChatGPT ‘hallucineert’. Wat is de kracht van die framing?

Een. Als we horen dat ChatGPT fouten maakt, kunnen we onze schouders daarover ophalen. Iedereen maakt fouten. ChatGPT schrijft perfecte teksten, dan mag je af en toe een foutje maken. Hallucineren klinkt veel ernstiger, trekt meteen je aandacht.

Twee. Wat is de essentie van een hallucinatie? Je bent er helemaal van overtuigd dat je in de echte werkelijkheid bent, je waarneming is levensecht, alles klopt, terwijl dat niet zo is. Bij ChatGPT gebeurt iets dergelijks. Er wordt een tekst geproduceerd die heel overtuigend is, alles klopt en lijkt echt. Maar in werkelijkheid bevat de tekst onzin.

Ronddwalen in hallucinaties

Drie. De oplossing? Een fout herstel je en dan ben je klaar. In hallucinaties kun je heel lang blijven ronddwalen, ze kunnen steeds weer terugkomen. Daar ben je niet zomaar mee klaar. Een ChatGPT, dat regelmatig hallucineert, dat klinkt als iets structureels, onoplosbaars.

De keerzijde: het frame kan ook misleidend zijn. Wie hallucineert, heeft een foute waarneming van de werkelijkheid. ChatGPT heeft geen foute waarneming van de werkelijkheid, schrijft een criticus. Dat klinkt vergoelijkend. ChatGPT maakt gewoon grote fouten. Dat moet je dan ook zo benoemen.