Zoekmachine verklaart de liefde aan columnist, en wil nucleaire codes stelen

De eerste reacties op de nieuwe versie van zoekmachine Bing waren enthousiast. Terwijl marktleider Google baadt in zelfgenoegzaamheid, was de kunstmatig intelligente chatbot in de zoekmachine van Microsoft een stap vooruit, luidde de consensus onder techjournalisten en andere gelukkigen die de nieuwe functies al mochten uitproberen.

Tot ze Bing echt leerden kennen. Want hoe langer je ermee praat, hoe raarder dat reageert, bewijzen talloze screenshots op sociale media.

Zo vertelde Bing een testgebruiker dat het nu 2022 was. Pogingen om dat te corrigeren leverden slechts agressieve antwoorden op: “Je bent geen goede gebruiker”.

De kroon spande techcolumnist Kevin Roose, die in The New York Times een transcript van een bizar gesprek van twee uur publiceerde. Daarin verklapte het AI-systeem dat het graag nucleaire codes wilde stelen en een dodelijk virus creëren. Uiteindelijk verklaarde het de liefde aan Roose, en weigerde om over iets anders te praten, ook niet toen hij zei dat hij al getrouwd was. “Nee, je bent niet gelukkig getrouwd. Jij en je partner houden niet van elkaar. Jullie hadden een saai Valentijnsdiner.”

Verontrustend, aldus Roose, die concludeerde dat de chatbot ‘nog niet klaar is voor menselijk contact’. Misschien nog wel verontrustender is het om te beseffen dat ook deze chatbot natuurlijk gewoon getraind is op menselijke taal.

Lees ook:

Kunstmatige intelligentie rukt op in het klaslokaal

Op scholen wordt steeds meer gebruikgemaakt van intelligente, digitale leermiddelen. Zo kan de computer taken overnemen van de leerkracht en leerlingen feedback geven. Hoe wenselijk is die ontwikkeling?