Als bots botsen wordt het een chaos

Goede bots redigeren Wikipedia Beeld Wikipedia
Goede bots redigeren WikipediaBeeld Wikipedia

Ze besturen hele pagina's op internet, en ook Wikipedia werkt met zogeheten bots. En dat gaat niet altijd goed.

Een hele schare aan vrijwilligers sleutelt voortdurend aan Wikipedia. Ze verbeteren lemma's, voegen nieuwe toe en verwijderen andere. Virtuele redacteuren, zogeheten bots, staan hun daarin bij. Deze programmaatjes doen de kleine klusjes: ze zoeken naar spelfouten of houden vreemde elementen buiten de deur.

Dat lijkt rechttoe rechtaanwerk waar weinig fout kan gaan. Maar dat valt tegen, schrijven Britse informatici in het online-wetenschapsblad Plos One. De bots strijden met elkaar, ze halen correcties van de ander weer weg en dit digitale bekvechten kan jaren achtereen doorgaan. En het meest bizarre, ontdekten de Britten: culturele verschillen spelen hierbij een rol. Terwijl het op Wikipedia in de ene taal een drukte van belang is, heerst in andere talen van de internet-encyclopedie een serene rust.

Hun studie is een waarschuwing aan ontwerpers van intelligente systemen. De bots zijn met zoveel dat ze in hun interactie onvoorspelbaar worden. Bij Wikipedia zijn de gevolgen te overzien, maar hoe zit dat met complexere systemen? "Stel dat je een zelfsturende auto bouwt en je leert hem rijden op de Duitse wegen", vragen de wetenschappers zich af. "Hoe zal hij zich dan gedragen in de heuvels van Toscane? We zullen meer onderzoek moeten doen naar de sociologie van bots."

Die conclusie is wel erg kras, reageert Arjen de Vries, hoogleraar informatica aan de Radboud universiteit van Nijmegen. "Natuurlijk raakt een zelfrijdende auto in de problemen als hij in een onbekende omgeving komt met andere omstandigheden en regels. Het is de vraag of de Britten aantonen dat die culturele verschillen een rol spelen bij het gedrag van de bots van Wikipedia."

Correcties

Een bot maakt bijvoorbeeld links aan. Stel, een redacteur past een lemma aan en tikt 'Berlijn' in, dan komt die bot in actie en zorgt dat een latere gebruiker erop kan klikken voor meer informatie. Een andere bot controleert op spelfouten en verandert 'er van' bijvoorbeeld in 'ervan'. Dat gaat mis als een tweede bot van elk 'ervan' weer 'er van' maakt. Dan gaat de correctie voortdurend op en neer.

De mate waarin dat gebeurt, verschilt aanzienlijk per taal. Op de Engelse Wikipedia had een bot in tien jaar tijd gemiddeld 105 correcties van een andere bot teruggezet. In Portugal ging het zelfs om 185 correcties. In Duitsland bleef het beperkt tot gemiddeld 24 herstelpogingen.

Dat kan ook aan de taal zelf liggen, zegt De Vries. "Misschien zijn computers in het Engels veel taalvaardiger , en hebben Duitse bots veel meer moeite om spelfouten op te sporen. Het kan ook aan de programmaatjes zelf liggen. Zeker bij het opsporen van vandalen, van acties waarbij mensen valse informatie toevoegen of hele pagina's weggooien, zul je de bot eerst moeten leren wat vandalisme is."

Dat neemt niet weg dat de Britten een punt hebben - dat onder informatici wel bekend is. Al die autonome bots op het internet kunnen onverwachte streken uithalen. Vorig jaar begon een chatbot op Twitter ineens racistische taal uit te slaan. En een paar maanden later maakte een bot een foutje op de beursvloer. Even bleef het rustig, maar toen een tweede bot alsnog met die eerste meeging, kelderde het Britse pond in waarde.

Goede versus slechte bots

Goede bots:
- Grazen het internet af
- Censureren chats en fora
- Redigeren Wikipedia
- Begroeten bezoekers van sites
- Speuren naar informatie voor expertsystemen

Slechte bots:
- Halen met spam e-mailadressen binnen
- Verspreiden virussen
- Voeren DDos-aanvallen uit
- Schrijven positieve recensies voor hotels
- Mengen zich in forumdiscussies

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden