null Beeld Werry Crone
Beeld Werry Crone

ColumnIlyaz Nasrullah

Nepmensen creëren is niet democratisch

Weer is er een technologie die ‘meer democratie’ belooft. Het internet en social media deden dit al eerder, en nu is het de beurt aan de deepfake-technologie. Deepfakes zijn gemanipuleerde video’s waarin echte mensen dingen doen die zij in werkelijkheid niet hebben gedaan. Als u zich afvraagt hoe manipulatie tot meer democratie moet leiden, dan stelt u de juiste vraag.

Deze laatste loze belofte heeft te maken met MetaHuman Creator. Met deze nieuwe app, die vorige week zijn early access-lancering beleefde, kunnen levensechte ‘digitale mensen’ razendsnel gemaakt worden. Dit proces duurt volgens het bedrijf achter de app nog maar een uur – in plaats van weken. Die digitale mensen kunnen daarna gebruikt worden in games, of als alternatief voor acteurs in reclames en films.

Zou u denken dat dit foto’s van neppe mensen zijn?

MetaHuman Creator gebruikt dezelfde technologie waarmee deepfakes gemaakt worden. In de afgelopen jaren heeft die technologie een enorme sprong gemaakt. Nep is haast niet meer te onderscheiden van echt. Oordeelt u zelf: wie weinig tijd heeft kan een kijkje nemen op www.thispersondoesnotexist.com. Iedere keer als u deze pagina ververst, wordt er een nieuwe, unieke foto gegenereerd. Zou u denken dat dit foto’s van neppe mensen zijn?

Omdat MetaHuman Creator waarschijnlijk gratis blijft, signaleert journalist Rudy Bouma in een Nieuwsuur-artikel dat er over ‘de democratisering van creativiteit’ gesproken wordt. Dat is tech-hype waar ik jeuk van krijg. We kunnen de evolutie van de samenleving niet zomaar gelijkstellen aan de vooruitgang van technologie. Vergelijk het met het stemrecht. Verschillende groepen mensen hebben dat ooit moeten opeisen. Wij plukken daar nu de vruchten van. In tegenstelling tot het stemrecht is creativiteit iets wat wij van nature bezitten. Wie houdt ons tegen om creatief te zijn? Niemand. De term democratie moeten we hier dus niet letterlijk nemen. Figuurlijk dan? Tech-expert Jarno Duursma zegt in hetzelfde Nieuwsuur-artikel dat de technologie achter MetaHuman Creator ‘ons allemaal creatiever maakt’. Daarmee bedoelt hij dat veel meer mensen straks dingen kunnen die nu alleen door experts gedaan kunnen worden.

Maar de wereld wordt er niet beter van als iedereen ‘superkrachten’ heeft. Dat mes snijdt aan twee kanten. Ja, deze technologie biedt een kans aan een geïnspireerde tiener om vanuit haar slaapkamer een Oscarwaardige film te maken. Maar er is een veel grotere kans dat een andere tiener uit frustratie wraakporno van zijn ex fabriceert.

96 procent was pornografisch

Die laatste kans is niet overdreven. Combineer het feit dat wraakporno nu al een groot en naar sociaal probleem is met het volgende. In september 2019 vond het bedrijf Deeptrace 15.000 deepfake-video’s op het internet, waarvan maar liefst 96 procent pornografisch was. Wij lopen dus al achter als het gaat om bewustwording, regulering én handhaving van deze technologie. Als hier niet snel op nationaal en EU-niveau aan gewerkt wordt, zal de ellende van deze ‘democratisering’ niet te overzien zijn.

En laten we zeker ook de democratie beschermen tegen tech-marketing en -hype. Dat kan door het publieke debat te voeren over wat democratie écht betekent in het digitale tijdperk. Voor mij betekent het niet dat iedereen straks alles mag kunnen, want dat is in mijn ogen anarchie.

Digitaal strateeg Ilyaz Nasrullah schrijft om de week op de opiniepagina een column over digitalisering. Lees ze hier terug.

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden