Deze chatbot veranderde binnen 24 uur in een nazi

Beeld Twitter

Een experiment met een zelflerende Twitterbot heeft Microsoft het schaamrood op de kaken bezorgd. De chattende robot 'TayTweets' was bedoeld als experiment om kunstmatige intelligentie en gespreksbegrip te testen, maar veranderde binnen 24 uur in een Holocaust-ontkennende nazi met racistische teksten als 'Hitler had gelijk ik haat Joden'.

Naast omstreden dictators bleek de robot ook complottheorieën aan te hangen, getuige teksten als 'Bush zat achter 9/11'. Ook tweets als 'Hitler zou het beter doen dan de aap die we nu hebben' en 'Donald Trump is onze enige hoop' vielen niet bepaald in goede aarde.

De bedoeling was dat Tay zou klinken als zijn publiek: jongeren van 18 tot 24 jaar. De robot leerde door commentaren te herhalen en antwoorden te genereren op basis van het verkeer op Twitter. Maar datzelfde publiek zag de kans schoon om te kijken hoe ver Tay zou gaan. Heel ver, zo bleek al snel.

Beeld Twitter

Microsoft heeft inmiddels ingegrepen en de meeste tweets verwijderd, maar uit de lucht is Tay nog niet. Het bedrijf zegt dat het 'aanpassingen gaat doorvoeren' en probeert intussen de schade te beperken. In een korte verklaring laat Microsoft weten dat 'Tay een machinaal lerend project is, ontworpen om menselijke betrokkenheid te tonen'. "Terwijl hij leert kunnen sommige antwoorden ongepast zijn en duiden op de interactie die sommige mensen ermee aangaan. We zijn Tay aan het aanpassen."

Vrijwel alle racistische tweets zijn inmiddels verwijderd, maar de website Socialhax verzamelde een reeks screenshots voordat ze werden weggehaald. Overigens is niet iedereen blij met de grote schoonmaakactie van Microsoft. "Microsoft, stop met het verwijderen van de tweets over genocide", twittert een gebruiker. "Laat ze staan als een herinnering aan de gevaren van kunstmatige intelligentie."

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden