Verenigde Staten

Facebook bindt strijd aan met levensechte nepvideo's

Een journalist bij persbureau AFP kijkt naar een video over deepfakes. Beeld AFP

Facebook gaat in het vervolg deepfake-video’s verbieden en verwijderen. Critici vrezen dat het probleem niet serieus genoeg wordt opgepakt.

Facebook verbiedt en blokkeert voortaan deepfakes: video’s die niet de werkelijkheid laten zien, maar voor echt kunnen doorgaan. Het bedrijf maakt een uitzondering voor video’s die niet willen bedriegen en bedoeld zijn als satire of parodie.

De eerste deepfakes doken in 2017 op en bestonden voornamelijk uit porno waarin de hoofden overtuigend waren vervangen door die van andere mensen. Deepfake is een samenstelling van fake en deep learning, een methode in de kunstmatige intelligentie waarbij een computerprogramma zoveel beelden van een persoon te zien krijgt, met name van het gezicht, dat het goed lijkende nieuwe beelden kan maken. Behalve als grap werd de methode al gauw ook gebruikt voor ‘wraakporno’: wie iemand wilde kwetsen, leverde foto’s of een video van die persoon in bij iemand die met de techniek kon omgaan.

Barack Obama ‘gebruikte’ krachttermen 

Het jaar daarna maakten onderzoekers echter ook een video waarin oud-president Barack Obama leek te waarschuwen voor het gevaar van deepfakes, en daarbij krachttermen gebruikte die een Amerikaanse politicus in het openbaar nooit zou uiten. Met een succesvol verspreide deepfake video van een nog actieve politicus zouden verkiezingen kunnen worden beïnvloed.

Eind vorige maand verwijderde Facebook ook een kleine duizend nepaccounts uit Georgië, Vietnam en de VS, die rechtse politieke informatie over de VS verspreidden. De profiel­foto’s waren met kunstmatige intelligentie gemaakt, zodat ze uniek leken en de accounts minder gemakkelijk als nep te herkennen waren. Er werden zo’n 55 miljoen Facebookgebruikers mee bereikt.

Critici van de nieuwe gedragslijn van Facebook, die ook geldt voor dochterbedrijf Instagram, zeggen dat het probleem niet grondig genoeg wordt aanpakt. Enkele video’s die onlangs Democratische politici in verlegenheid dreigden te brengen, vallen er niet onder.

Democraat Joe Biden  deed 'racistische’ uitspraken 

Vorige week deed er een de ronde waarin presidentskandidaat Joe Biden een racistische opmerking leek te maken. Er was niets in gemanipuleerd, de makers hadden alleen net een paar seconden uit zijn toespraak geselecteerd die je als racistisch zou kunnen interpreteren. Van de Democratische voorzitter van het Huis van Afgevaardigden, Nancy Pelosi, werd een vertraagde video in omloop gebracht, waardoor het leek of ze dronken was.

Om deepfake-video’s te kunnen blokkeren, moet Facebook ze eerst ontdekken. En snel ook, voordat ze door miljoenen mensen gezien en voor zoete koek geslikt zijn. Ook daar wordt kunstmatige intelligentie voor ingezet. Die analyseert de beelden, bijvoorbeeld op subtiele vervormingen van het gezicht. Maar ook informatie van buiten de beelden kan een rol spelen, bijvoorbeeld als op een video de zon schijnt terwijl het volgens weergegevens regende rond de tijd dat volgens het videobestand de opname plaatsvond.

Methodes om deepfakes te detecteren worden ook weer gebruikt door de makers van deepfake-software om die te verbeteren. In die wapenwedloop riep Facebook vorig jaar de hulp van informaticabedrijven en universiteiten in. Het bedrijf verzamelde video-opnamen van vrijwilligers en maakte op basis daarvan een collectie van 100.000 video’s, echte en onechte. Het computerprogramma dat in maart het best in staat blijkt daar de deepfakes uit te halen, wint voor de makers een half miljoen dollar.

Lees ook:

Twitter gaat politieke advertenties weigeren

Terwijl Facebook politieke advertenties uit principe niet wil reguleren, verbiedt Twitter ze juist helemaal. Maar of dat de kritiek doet verstommen, is de vraag.

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden