ChatGPT berooft ons van waardevol denkwerk. Wanneer zijn we gestopt met ergens moeite voor doen?

Sinds ChatGPT, een slim schrijvende chatbot, eind vorig jaar zijn intrede deed, gaat het vooral over plagiaat. De verkeerde discussie, vindt Cynthia Liem, docent kunstmatige intelligentie en pianist. Stel de vraag waarom moeite doen zo uit de gratie is.

Aan het begin van de jaren 10 woonde ik een aantal maanden in Californië, in Silicon Valley, waar ik stage liep op het hoofdkwartier van Google. Elke vrijdagmiddag was er een gezamenlijke weekafsluiting: een borrel met snacks, drankjes en nieuwtjes over het bedrijf. En soms een presentatie over een project waar binnen de muren van Google aan werd gewerkt.

Daar hoorde ik voor het eerst over virtuele assistent-technologie. Veel mensen maken in hun dagelijks leven intensief gebruik van Google-producten. Ze mailen met Gmail, houden hun afspraken bij in Google-agenda en navigeren naar hun werk met Google Maps. Het idee was om hun gedrag te analyseren en te koppelen aan een functie die automatisch herinneringen op hun telefoon geeft.

Jubelend was het projectteam over het idee dat de ­telefoon zo een slimme virtuele assistent zou worden, die al wist wat iemand nodig had voordat diegene dat zelf doorhad.

Deze technologie kwam in veel Google-producten terecht, in de vorm van Google’s Assistent-functie op Androidtelefoons. Zo kun je nu automatisch een waarschuwing krijgen dat een vriend bijna jarig is, of dat er een zware avondspits aankomt en je dus beter wat vroeger van kantoor kunt vertrekken.

Ik herinner me deze presentatie nog goed, omdat die gemengde gevoelens bij me opriep. Natuurlijk zijn dit soort meldingen handig. Vaak genoeg ben ik druk bezet, en word ik in de chaos van alles wat er moet gebeuren minder scherp op wat mijn volgende taken en afspraken precies zijn. Maar ik merk ook dat ik gemakzuchtiger en onoplettender word als technologie mij te veel werk uit handen neemt.

Ook toen al. Als onbekende in Californië reed ik op automatische navigatie, tot ik me realiseerde dat ik wel heel erg achter een pijltje aan reed. Ik had geen flauw idee waar ik was. Om mezelf uit te dagen, probeerde ik de routes die ik veel reed uit mijn hoofd af te leggen. Dat ging weleens flink mis en zo belandde ik als fietser ineens op de afslag naar de snelweg.

Maar door dit soort fouten te maken, veel te verdwalen en, koppig als ik was, er een punt van te maken om er zonder digitale hulp uit te komen, ging ik veel beter opletten. Ik kreeg inzicht in mijn omgeving en koos bewust waar ik heen wilde. Als fietser in een autoland was dat wel zo prettig: nu kon ik onderweg spontaan besluiten een afslag eerder te nemen, als ik die dag liever door een rustigere wijk wilde rijden.

Mensen volledig vervangen

Ik denk hier vaak aan terug nu ik als onderzoeker en docent Artificial Intelligence, kunstmatige intelligentie, regelmatig de vraag krijg wat ik van ChatGPT vind. Mocht het u nog zijn ontgaan: ChatGPT is een taalgedreven, experimenteel computerprogramma dat in een handomdraai essays, boekverslagen en andere teksten kan produceren, op basis van vragen van gebruikers. In de meest enthousiaste reacties op de chatbot die Open AI in november lanceerde, lees ik wederom de belofte van een gemakstechnologie die ons werk uit handen neemt. En meer dan dat: mensen willen zich niet alleen laten assisteren, ze verheugen zich er al op dat ze zich volledig kunnen laten vervangen.

In de positieve hoek zijn scholieren en studenten blij, zij gebruiken de technologie om huiswerkopdrachten te maken. Docenten zijn blij, die willen er automatisch opdrachten mee genereren. Tindergebruikers laten ChatGPT hun cruciale openingszinnen schrijven en sollicitanten hun motivatiebrieven. En in de informatica­wereld hoor ik collega’s roepen dat het programmeren van software zal uitsterven, omdat straks ook softwarecode automatisch gegenereerd wordt.

Ongeruste geluiden klinken er ook, want tegenover het enthousiasme staat veel ongemak. Hoe zit dat met authenticiteit? Dat huiswerk, die perfecte binnenkomer op een dating-app en die soepele sollicitatiebrief zijn immers niet door de afzender geschreven. In allerijl zetten scholen en universiteiten vele commissies op die zich buigen over manieren om ChatGPT-plagiaat tegen te gaan.

Die focus op plagiaat is mijns inziens niet de juiste. Mijn arme collega’s in al die commissies maken nu extra ongeplande uren, bovenop hun vast al overvolle agenda’s en onderwijstaken die onverbiddelijk blijven staan. En waarvoor? Op zijn best wordt het probleem tijdelijk gefikst, tot de technologie achter ChatGPT wordt geïntegreerd in Word en Google Docs. Dan mag een nieuwe commissie weer nieuwe richtlijnen opstellen.

De individuele worsteling om tot iets te komen

Ik zou die denkkracht liever inzetten voor antwoorden op twee andere vragen: is er niet te weinig waardering voor de individuele worsteling om tot iets te komen en is er niet te veel waardering voor de uitkomst?

In die worsteling om te komen waar je wilt zijn, kan ChatGPT best een rol spelen. Je kunt die als schrijfhulp gebruiken, net zoals een spelling- of grammaticachecker. Maar het lijkt erop dat ChatGPT mensen uitnodigt om hun werk volledig uit te besteden, op een manier die in de analoge wereld ondenkbaar zou zijn.

Zo schrijf ik beter dan de gemiddelde student. Studenten kunnen mij om feedback vragen bij het maken van huiswerk of het schrijven van een motivatiebrief. Maar geen enkele student zou het in zijn of haar hoofd halen om mij te vragen die tekst volledig te ghostwriten. Waarom vinden zoveel mensen dit bij ChatGPT wel acceptabel? Is het gemakzucht, onzekerheid of beide?

Ik vrees dat die houding een product is van de tijdgeest. Onze prestatiemaatschappij richt zich op het behalen en het verkopen van uitkomsten. En die kruist nu de digitale informatiemaatschappij, die is ontworpen om gebruikers snel te bedienen en het ze gemakkelijk te maken. Maar soms gaat het zó snel en zó gemakkelijk dat gebruikers niet eens de tijd hebben om te bedenken of ze erin mee willen gaan.

1 tot 5 sterren

Had u al Netflix voor 2017? Dan herinnert u zich wellicht dat u video’s toen kon beoordelen op een schaal van 1 tot 5 sterren. Sindsdien heeft de streamingservice zijn systeem versimpeld: een duimpje omhoog of omlaag volstaat. Toenmalig vice president of product, Todd Yellin, zei daar iets treffends over: “Wat is krachtiger: dat je mij vertelt dat je 5 sterren zou geven aan de documentaire over onrust in Oekraïne, dat je 3 sterren zou geven aan de nieuwste film met Adam Sandler of dat je die Adam Sandler-film tien keer vaker bekijkt? Wat je doet en wat je zegt leuk te vinden, dat zijn verschillende dingen.”

Door over te gaan naar het duimpjes-systeem – 3 sterren was al goed genoeg voor een duimpje omhoog – koos Netflix onomwonden voor de video die je tien keer vaker zou bekijken. Maar zeker nu vraag ik me af of het voor de wereld niet beter was geweest als die documentaire over Oekraïne vaker was bekeken.

Wat zegt het als mensen expliciet de moeite nemen een hoge waardering aan een video te geven, maar daar vervolgens niet naar kijken? Ook ik maakt me er schuldig aan. De ongelezen boeken op de plank, de langere documentaires op mijn kijklijstje, de meer inhoudelijke e-mails. Dat zijn precies de zaken waar ik eens goed voor zou willen gaan zitten, waar ik diep in zou willen graven. Toch doe ik het niet, omdat ik de tijd en ruimte voor die diepte niet heb.

Hoewel, als ik kritisch nadenk had ik de tijd misschien wel, maar verdween die al bankhangend aan gekke filmpjes. Al was ik op zulke momenten waarschijnlijk te moe om de diepte in te kunnen, het had me wel meer voldoening kunnen geven.

Prestatiemaatschappij

Als ik hier als volwassene al gevoelig voor ben, kan ik wel begrijpen dat studenten en scholieren besluiten om voor hun huiswerk naar een automatische tool te grijpen. Zij zullen huiswerk maken ook voor de komst van ChatGPT zelden als een leuke bezigheid hebben ervaren. Maar dat ze ChatGPT nu omarmen zegt niet alleen iets over hun individuele werkhouding. Hier komt die prestatiemaatschappij om de hoek kijken.

Op scholen en universiteiten zien we overvolle curricula, schaalvergroting en personeelstekorten. Idealiter is de docent een meester en de student een gezel, in werkelijkheid is het onderwijs eerder een fabriek voor massaproductie. Studenten hollen van deadline naar deadline om zoveel mogelijk punten te scoren en niet uit het systeem te vallen. Docenten hebben hun handen vol aan ‘het overzien van de productlijn’, nakijkwerk en verantwoordingsbureaucratie. Voor begeleiding is weinig tijd.

De vraag is of er in zo’n wereld nog ruimte is voor geduld, vooral als een taak lastig is. Je hebt een probleem als het eerste resultaat van je inspanning niet goed is. Terwijl dat er juist bij hoort, zoals iedere beoefenaar van sport en muziek weet. De eerste keer dat je krachttraining doet of een viool bespeelt, lijkt het gegarandeerd nergens op. Je moet rustig opbouwen en gaandeweg zul je de routines oppakken en beter worden.

Piano Genie-demo

Maar wat doet Google? Die komt met de zogenoemde Piano Genie-demo, AI-technologie waarmee je automatisch virtuoos pianospel genereert door op slechts acht knoppen te drukken. Als professioneel opgeleid concertpianist weet ik één ding zeker: zo zul je nooit leren hoe je je op een piano kunt uitdrukken. Natuurlijk, een beginnend pianist op een echte piano lijkt in eerste instantie tot veel minder in staat dan de Piano Genie-speler. Maar alleen met ouderwets hard en gedisciplineerd ­oefenen, kun je muzikaal gevoel ontwikkelen.

Silicon Valley stelt wel vaker een oppervlakkig efficiëntie-ideaal boven een grondigere gedachte over wat mensen nodig hebben. Zowel Mark Zuckerberg als Elon Musk pitchten het idee om rechtstreeks via brein­implantaten te communiceren, omdat menselijke taal ambigu en inefficiënt zou zijn. Juist als informaticus breng ik daar tegenin dat niet alle concepten in de wereld exact zijn, en dat je met ambiguïteit moet leren omgaan.

De vaardigheid om goed te leren spreken en te schrijven is daarbij van groot belang, ook als je daar van nature niet goed in bent. Als je aan een nieuwe tekst begint, is het uiteraard frustrerend om naar een leeg scherm te staren. Maar tegelijkertijd helpt het voor het structureren van je eigen gedachten om een tijdje op je ideeën te kauwen en met de woorden te worstelen, voor je iets op papier krijgt.

Het systeem opnieuw ontwerpen

Bij computers is het duur om slecht functionerende systemen steeds met weer een nieuwe patch in de lucht te houden. Soms is het nodig, en beter, om het systeem geheel opnieuw te ontwerpen. Ons onderwijssysteem is weliswaar geen computersysteem, maar de gedachte is makkelijk door te trekken.

Laten we serieus de tijd en de ruimte nemen om fundamenteel na te denken over wat ons werkelijk verder brengt. Over hoe we beter kunnen toetsen of studenten beschikken over de begripsvaardigheden die we hen willen meegeven. Inderdaad kunnen sommige basisvaardigheden geautomatiseerd worden, maar toch is het nog steeds goed om ze te beheersen. En dat moeten we uitleggen. Laten we ruimte te geven aan authenticiteit, in een wereld die overladen is met digitale verleiding en eenvormige perfectie. En laat dit denken zich niet beperken tot het onderwijs, maar zich uitstrekken tot de bredere maatschappij.

Focus in discussies over digitalisering en automatisering hierop, en niet op het veelgebruikte frame van menselijke overgave aan gigantische, onvermijdelijke technologische ontwikkelingen.

En zullen we nu eindelijk eens goed gaan zitten voor dat ene boek of die ene documentaire?

Lees ook:

Chatrobot ChatGPT is slim, maar begrijpt zijn eigen antwoorden niet

Breekt, met de komst van deze nieuwe chatbot, kunstmatige intelligentie nu echt door bij het grote publiek?