Facebook is te snel groot geworden

De Noorse krant Aftenposten protesteerde vorig jaar toen Facebook opdroeg tot het verwijderen van de beroemde zwart-wit-foto van een naakt Vietnamees meisje dat door napalm is getroffen. Later werd die foto toch toegestaan. Beeld EPA
De Noorse krant Aftenposten protesteerde vorig jaar toen Facebook opdroeg tot het verwijderen van de beroemde zwart-wit-foto van een naakt Vietnamees meisje dat door napalm is getroffen. Later werd die foto toch toegestaan.Beeld EPA

Facebook beweert de inhoud van omstreden berichten te controleren. Maar dat lukt niet, blijkt uit meer dan honderd gelekte interne documenten.

Video’s van abortussen zijn toegestaan, maar als er naakt te zien is moeten de beelden worden verwijderd. Foto’s van dierenmishandeling? Die kunnen gebruikers prima delen. En wie de grens van honderdduizend volgers overschrijdt, krijgt het stempel ‘publiek figuur’, waarmee bepaalde beschermingsgaranties komen te vervallen.

De interne regels en richtsnoeren van Facebook liggen op straat. Medewerkers die de onophoudelijke stroom aan nieuwe berichten modereren hebben instructiemateriaal gelekt aan de Britse krant The Guardian, die onderzoek doet naar de manier waarop het sociale netwerk omgaat met aanstootgevende informatie.

Tien seconden

Uit de zogenoemde ‘Facebook Files’, een analyse van de ruim honderd verkregen documenten en memo’s die The Guardian publiceerde, blijkt dat Facebook de berichten van zijn twee miljard gebruikers controleert op onder meer terrorisme, haatzaaien en porno.

Maar de criteria daarvoor zijn veranderlijk en tegenstrijdig. Zo mogen kinderen op dit moment via Facebook worden gepest, tenzij het treiteren een sadistisch karakter heeft. Wanneer dat het geval is? Daar blijft het netwerk vaag over.

Medewerkers zeggen in de Facebook Files dat het werk hen duizelt. Tien seconden de tijd hebben de moderatoren gemiddeld, om te beoordelen of een bericht door de beugel kan of verwijderd moet worden.

Verantwoordelijkheid

Facebook kan nauwelijks omgaan met haar almaar groeiende macht en worstelt met de maatschappelijke en politieke druk die er op het bedrijf wordt uitgeoefend. Het netwerk ligt al enige tijd onder vuur vanwege het plaatsen of juist weghalen van berichten op haar site. Zo werd oprichter Mark Zuckerberg beticht van machtsmisbruik toen Facebook in september van vorig jaar de iconische nieuwsfoto van het ‘napalmmeisje’ verwijderde omdat het Vietnamese oorlogsslachtoffer naakt is.

Het netwerk stond de foto daarop alsnog toe en Zuckerberg beloofde beterschap. Maar nieuwe fouten stapelden zich op. Meer recentelijk kreeg Facebook ervan langs nadat rap na elkaar live op Facebook te zien was hoe een vrouw in Zweden werd verkracht, een man uit Cleveland een voorbijganger doodde en een Thaise vader zijn elf maanden ouder baby vermoordde.

Bovendien wordt op grote schaal nepnieuws verspreid via Facebook. En waar Zuckerberg er lange tijd op hamerde dat Facebook een neutraal platform is, een doorgeefluik dat niet aangesproken kan worden op de berichten die haar gebruikers verspreiden, zegt hij nu zijn verantwoordelijkheid te willen nemen. Een grote uitdaging, noemde de CEO het te bewandelen pad.

Te snel, te groot

Om de daad bij het woord te voegen gaat Facebook onder meer samenwerkingen met feitencheckers aan. Ook maakte Zuckerberg begin deze maand bekend wereldwijd drieduizend mensen aan te nemen, die het team van 4500 medewerkers dat aanstootgevende berichten controleert moeten versterken.

Het is te betwijfelen of die maatregelen afdoende zijn om foutieve en schokkende informatie te weren. De hoeveelheid is gigantisch, per minuut worden 1,3 miljoen berichten gepost; wekelijks komen er 6,5 miljoen nieuwe nepaccounts bij. Zelfs met een paar duizend man extra is het onmogelijk alles te modereren. “Facebook kan de inhoud niet controleren”, stelt een anonieme bron tegen The Guardian. “Het is te snel te groot geworden.”

Veiligheid van de gemeenschap

De gelekte documenten laten zien dat Facebook, dat gehekeld wordt om zijn intransparantie, zijn status als neutraal techbedrijf is ontgroeid en een transformatie tot mediabedrijf heeft ondergaan. Maar de verantwoordelijkheden die aan die gedaantewisseling kleven, lijkt het bedrijf niet aan te kunnen of krijgen onvoldoende prioriteit.

Facebook stelt in reactie op The Guardian dat het melden van problemen wil vergemakkelijken en van plan is sneller vast te stellen welke berichten de standaard van het netwerk overschrijden. “Het is onze plicht bovenop de veiligheid van onze gemeenschap te zitten”, zegt Monika Bickert, hoofd van Global Policy Management van Facebook. “Daartoe hebben we ons als bedrijf gecommitteerd.” Maar hoe? Daar gaat Facebook niet op in. Video’s van abortussen zijn toegestaan, maar als er naakt te zien is moeten de beelden worden verwijderd. Foto’s van dierenmishandeling? Die kunnen gebruikers prima delen. En wie de grens van honderdduizend volgers overschrijdt, krijgt het stempel ‘publiek figuur’, waarmee bepaalde beschermingsgaranties komen te vervallen.

Wat wel, wat niet?

De Facebook Files demonstreren niet alleen dat ’s werelds grootste sociale netwerk moeite heeft de hoeveelheid aanstootgevende berichten te verstouwen. Ook worstelt het met wat wel en niet acceptabel is. Zo verwijderde Facebook eind vorig jaar definitief een afbeelding van het schilderij Hollandsche maagd II (1977) van Pyke Koch, waarop de blote borsten van een half-slak-half-vrouw te zien zijn. En dat terwijl in de gelekte richtlijnen van Facebook staat dat met de hand vervaardigde kunst met naakt en seksuele activiteit is toegestaan, maar eenzelfde soort digitale kunst niet.

Ook andere regels zijn complex en omstreden. Zo zijn beelden met geweld tegen kinderen niet per definitie verboden, tenzij er veel klachten over binnen komen, en mogen livevideo's van zelfverminking op Facebook verschijnen omdat ze een maatschappelijk belang dienen, maar wraakporno niet.

Naast algemene richtlijnen bevat het instructiemateriaal voor moderatoren voorbeelden van wat wel en niet mag. Een oproep om de Amerikaanse president Donald Trump dood te schieten is bijvoorbeeld verboden. Maar wie uitlegt hoe je de nek van een vrouw kunt breken, mag dat wel posten op Facebook. Hetzelfde geldt voor een algemene oproep om dikke kinderen in elkaar te slaan.

Lees ook: Standbeeld kleine zeemeermin te bloot voor Facebook

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden