Europa werkt aan pauzeknop voor kunstmatige intelligentie

Europa bereidt een internationaal verdrag voor dat overheden een pauzeknop biedt als kunstmatige intelligentie (AI) een bedreiging vormt voor democratische waarden of mensenrechten. Aan het verdrag werken ook de VS, Japan en Canada mee.

Eerder deze week waarschuwden 1400 tech-experts in een open brief voor de bedreigingen van AI. De ondertekenaars, onder wie Elon Musk (Tesla) en Steve Wozniak (Apple), riepen eveneens op om het trainen van kunstmatig intelligente systemen stop te zetten, en wel voor een half jaar.

In die tijd moet worden nagedacht over veiligheidsprotocollen. Een goed idee, vindt Claes de Vreese, hoogleraar AI en Society aan de Universiteit van Amsterdam. Al heeft hij de brief niet ondertekend. “Ga ik ook niet doen.”

Waarom niet?

“Ik heb er weinig fiducie in, alleen al vanwege de grote woorden en de bombarie waarmee de brief is gepresenteerd. Maar ook omdat aardig wat investeerders en commerciële partijen de brief hebben ondertekend. Die willen niet zozeer waarschuwen voor de risico’s, maar juist de aandacht op AI vestigen om meer geld op te halen.

“Om de innovatiegolf dus eigenlijk aan te jagen. Misschien ietwat cynisch, maar toch kijk ik er zo tegenaan. Tegelijk vind ik het een goed idee om stil te staan bij de bedreigingen en risico’s van AI, zoals ook in Europa gebeurt.”

Wat zijn volgens u de belangrijkste gevaren?

“Deze technologie gaat in alle hoeken van de maatschappij een rol spelen. Neem de oorlogvoering. Wat als drones op enig moment zelf besluiten welke doelen ze aanvallen? Dat doen ze op grond van trainingsdata, maar daar kunnen fouten in zitten. De gevolgen van verkeerde inschattingen kunnen rampzalig zijn.

“Denk ook aan alle vormen van desinformatie, met tekst en beeld, die makkelijker dan ooit kunnen worden verspreid. Want dat is de beslissende gamechanger: de ongelooflijk brede toegankelijkheid van deze technologie.”

Ook voor iedereen met kwade bedoelingen.

“Jazeker. Met de huidige versie van ChatGPT kun je al frauduleuze e-mails opstellen, waarin je zegt geld op te halen voor een verkiezingscampagne, om maar wat te noemen. Ook kun je ermee ‘microtargeten’, specifieke groepen stemmers benaderen. Met ofwel steekhoudende of misleidende informatie. In het laatste geval vormt AI in combinatie met gedetailleerde persoonsgegevens een giftige cocktail.

“Bedenk daarbij dat we veel informatie via onze mobiele telefoon consumeren, waarbij we niet de moeite nemen om boodschappen op echtheid te controleren. Voor fraudeurs opent zich een waaier aan mogelijkheden.

“En dan hebben we het nog niet gehad over de discriminerende algoritmes van overheidsinstellingen, zoals die in de toeslagenaffaire aan het licht kwamen. Als je dit soort AI-toepassingen op veel plekken in de maatschappij gebruikt zonder inspraak of toezicht, dan zullen burgers uiteindelijk het vertrouwen in democratische instituties verliezen.”

Gaat de pauze van een half jaar, die de tech-experts voorstellen, er komen?

“Ik betwijfel het zeer. Ik beschouw de open brief als een symbolische actie. In AI-land is zes maanden heel lang. Wie gaat erop toezien dat die pauze wordt nageleefd?”

Lees ook:

AI wordt gevaarlijk, waarschuwen Elon Musk, Yuval Harari en anderen. ‘Stop er tijdelijk mee’

De mensheid loopt gevaar als AI ongecontroleerd wordt losgelaten, schrijven honderden tech-experts onder wie Elon Musk, Steve Wozniak en Yuval Noah Harari.

Klöpping, Harari en andere prominenten zijn in AI-fuik gelopen

De hersenloze hype rond woordenspuger ­ChatGPT neemt sektarische vormen aan, betoogt columnist Ilyaz Nasrullah.