Misken niet de gevaren van Kunstmatige Intelligentie. Schrijfrobot ChatGPT draagt bij tot desinformatie en bedreigt zo de democratie, betoogt schrijver Floris Kleijne.
Het moment om tijdelijk te stoppen met de ontwikkeling van artificiële intelligentie (AI) is aangebroken, schreven honderden deskundigen in maart, onder wie Elon Musk. Hun open brief is veelbesproken.
Tegenover die oproep staan diverse artikelen die suggereren dat nieuwe vormen van AI, zoals ChatGPT, een chatbox die razendsnel al je vragen beantwoordt, toch vooral een nuttig werktuig zijn. Leer iedereen hoe met ChatGPT om te gaan, dan maken we sprongen vooruit, aldus trainer Tim Goudriaan (Opinie, 10 mei). En andere pleitbezorgers menen dat we te snel aan iets gevaarlijks denken, killer robots.
Het risico van desinformatie in AI is klein noch tijdelijk
Het risico van desinformatie geldt in zulke artikelen doorgaans als klein of als tijdelijk. Maar dat is het niet. We kunnen niet vertrouwen op de antwoorden van een systeem als ChatGPT, omdat AI nergens verstánd van heeft. Stel je ChatGPT een vraag, dan vraag je eigenlijk: hoe zou een geloofwaardig antwoord volgens jouw database klínken? ChatGPT begrijpt het eigen antwoord niet, beoordeelt het waarheidsgehalte niet, schat de bronnen niet op waarde; ChatGPT construeert louter een taalkundig correct en plausibel geheel. Wie dat antwoord voor een spreekbeurt, rapport, recensie, beleidsbeslissing of medische diagnose gebruikt, baseert zich op luchtkastelen.
Als proef op de som heb ik ChatGPT wat vragen gesteld over onderwerpen waar ik zelf iets van weet: evolutie van sociaal gedrag, mijn favoriete boek, en mijzelf als schrijver. Over de evolutie van sociaal gedrag produceerde ChatGPT vier alinea’s die op hoofdlijnen in de buurt kwamen van de gangbare wetenschap, maar op details de plank behoorlijk mis sloegen.
‘AI draagt bij aan het dommer maken van de mensheid’
Over mijn favoriete boek schreef ChatGPT een netjes geformuleerd, coherent stuk, waarin vrijwel elk feit niet klopte. En toen de chatbot opdracht kreeg om iets over mij als schrijver te vertellen, had ik ineens in New York gestudeerd, als journalist gewerkt, voor Time Magazine geschreven, talrijke boeken gepubliceerd (het is er één) en diverse prijzen gewonnen (ook één).
En ChatGPT gaf deze antwoorden met een overtuiging (ik zou bijna zeggen aplomb) alsof er geen enkele twijfel bestond aan de juistheid ervan.
Desinformatie is geen klein, tijdelijk risico van AI, het is het grootste, centrale, meest dreigende gevaar. Ze draagt bij aan de verdere erosie van de onafhankelijke waarheid, die de afgelopen decennia al ernstig is afgekalfd door de niet aflatende aanvallen op wetenschap en pers. Daarmee draagt AI bij aan het dommer maken van de mensheid en de afbrokkeling van de democratie.
Dat is veel erger dan killer robots.
Lees ook:
Praat niet langer óver ChatGPT, leer ermee te praten
Het instrueren van ChatGPT – prompten – is een basisvaardigheid, net zo essentieel als lezen en schrijven, betoogt AI-adviseur en -trainer Tim Goudriaan.
Schuif je vrees aan de kant: je kunt best veel met kunstmatige intelligentie
Kunstmatige intelligentie is zowel fascinerend als bedreigend. Je kunt ermee praten, het kan schilderen, muziek maken, autorijden, zien of je blij of verdrietig bent. Maar dicht het geen menselijke eigenschappen toe, het blijft techniek. We helpen je op weg.
