Italiaanse ChatGPT mag geen data meer opslaan

Waar gaan alle vragen, zielenroerselen en ontboezemingen aan ChatGPT heen nadat je op ‘enter’ klikt? Een duidelijk antwoord op die vraag ontbreekt, vindt de Italiaanse privacytoezichthouder Garante per la Protezione dei Dati Personali (GPDP). De waakhond besloot vrijdag dat de zelflerende chatbot tijdelijk geen gegevens van gebruikers meer mag opslaan, totdat het de privacygaranties opkrikt.

ChatGPT schrijft teksten na verzoeken van gebruikers op basis van publieke informatie en data. Maar volgens de toezichthouder houdt OpenAI, het bedrijf achter ChatGPT, zich niet aan de regels voor het vergaren van persoonsgegevens. Ook controleert het bedrijf de leeftijd van minderjarigen niet. En het zou onduidelijk zijn hoe ChatGPT persoonlijke gegevens verzamelt en opslaat. Dat gaat allemaal in tegen Europese privacyregelgeving.

De Italianen maken zich extra zorgen, omdat er eerder deze maand ook al een datalek bij ChatGPT was. Daarbij zouden gegevens zijn gelekt met gesprekken uit het chatprogramma, en, mogelijk gevoeliger, betalingsgegevens van abonnees. Daarnaast klaagt de toezichthouder dat er geen juridische basis is voor het massaal verzamelen en opslaan van gegevens om de algoritmes ‘te trainen’.

ChatGPT geeft bovendien geregeld onjuiste informatie over individuen. Dat gaat tegen Europese wetgeving in, die stelt dat iedere persoon recht heeft op rectificatie van fouten. Hoe OpenAI fouten van de bot corrigeert, is niet duidelijk.

Een boete dreigt

OpenAI krijgt twintig dagen de tijd om de gebreken te verbeteren. Doet het in San Francisco gevestigde bedrijf dit niet, dan dreigt een boete die kan oplopen tot 20 miljoen euro of 4 procent van de jaaromzet.

De Italiaanse waakhond eist overigens geen gehele blokkade van de website; het gaat erom dat de chatbot de gegevens van gebruikers niet langer mag opslaan. OpenAI was vrijdagmiddag voor Trouw nog toegankelijk via een Italiaanse VPN. Privacywaakhond GPDP was vrijdagmiddag niet bereikbaar voor een reactie.

De Nederlandse privacywaakhond, de Autoriteit Persoonsgegevens (AP), bekijkt het besluit. De blokkade is immers gebaseerd op Europese regelgeving voor databescherming, die ook geldt in Nederland. “Via apps op telefoons of via online diensten delen mensen soms meer persoonlijke informatie dan ze denken, of dan ze eigenlijk zouden willen”, schrijft een woordvoerder. “Daarom waarschuwen wij altijd voorzichtig te zijn. Bijvoorbeeld als apps of diensten gratis lijken, terwijl je die eigenlijk ‘betaalt’ door in de voorwaarden akkoord te gaan met het delen van allerlei persoonlijke gegevens. Soms zelfs gegevens buiten de app om, zoals je internetgedrag, je locatiegegevens of je contacten.”

De AP volgt het Italiaanse standpunt rond ChatGPT ‘op de voet’, samen met de EDPB, het EU-platform voor privacytoezichthouders. “Dat doen we ook om te zien hoe dit zich tot de Nederlandse context verhoudt.”

Het is niet de eerste keer dat de Italiaanse toezichthouder actie tegen een AI-chatbot neemt. In februari verbood het de chatbot app Replika.ai. Met Replika kunnen gebruikers praten met een persoonlijke avatar, die bekendstaat om het opbouwen van persoonlijke – en soms erotische – banden met de gebruikers van de app.

Lees ook:

Europa werkt aan pauzeknop voor kunstmatige intelligentie

Om mensenrechten, democratie en rechtstaat te beschermen kunnen overheden de ontwikkeling van kunstmatige intelligentie pauzeren of stoppen.Wat zijn precies de gevaren?