Uw profiel is aangemaakt

U heeft een e-mail ontvangen met een activatielink. Vergeet niet binnen 24 uur uw profiel te activeren. Veel leesplezier!

Wees waakzaam voor kunstmatige intelligentie

Home

Marietje Schaake

In China zijn er apps die massaal data verzamelen en mensen scores geven. © ANP

Een ethische discussie is veel te weinig om de enorme technologische vooruitgang van kunstmatige intelligentie bij te houden, betoogt Marietje Schaake, Europees parlementariër D66 en kandidaat-lijsttrekker D66 Europa. Algoritmes moeten daarom wettelijk getoetst worden. 

Justin Koornneef en Maarten van Heems berichten over hun bezoek aan tech-conferentie RISE in Azië (Opinie, 28 juli). Zij schrokken van de Chinese toestanden die ze zagen: apps die massaal data verzamelen en mensen op basis van hun gedrag scores geven. Om dit in Nederland te voorkomen moeten we een maatschappelijk debat aangaan, schrijven ze. Dat lijkt mij een minimaal vereiste, maar er is meer nodig om te voorkomen dat we in een geprivatiseerde Big Brother-samenleving belanden.

Lees verder na de advertentie

Een vaak gehoord medicijn tegen de uitwassen van kunstmatige intelligentie is: meer ethiek. Nu denk ik dat we overal wel wat meer ethiek kunnen gebruiken, maar dat de focus op ethiek ons afleidt van wat er echt op het spel staat: rechtsstatelijkheid. Door op ethiek te focussen komen autoritaire regimes en bedrijven die vooral met winst bezig zijn er te makkelijk vanaf. Ethiek is immers 'zacht', en onderwerp van discussie. Het beschermen van universele mensenrechten, in wetten en rechtsstatelijkheid, is 'harder'. Respect voor de rechtsstaat is waar open en gesloten systemen van elkaar verschillen.

Door op ethiek te focussen komen autoritaire regimes en bedrijven die vooral met winst bezig zijn er te makkelijk vanaf

Toezichthouders moeten nieuwe kennis en bevoegdheden krijgen om de rechtsstaat online te handhaven. Anti-discriminatiemeldpunten, privacy-waakhonden en de Autoriteit Consument en Markt moeten toezicht kunnen houden op algoritmen die de selecties in onze levens bepalen.

Selecteren en rangschikken computercodes informatie met respect voor mededingingsregels? Wordt er door softwarecodes gediscrimineerd? Wanneer komt een samenzweringstheorie of geweldsoproep bovenaan in een zoekopdracht? Er zijn steeds meer vragen over de impact van grote technologiebedrijven op onze democratie.

Oplossen

Alleen op basis van transparantie en verantwoording kunnen we fundamentele principes van onze democratie online bewaken en toetsen. Facebook-baas Mark Zuckerberg zei in het Amerikaanse Congres dat kunstmatige intelligentie alle problemen met online-haatzaaien zal oplossen. Maar zonder checks en balances eindigen we dan met een geprivatiseerde Big Brother die beslist wat we wel of niet online mogen zeggen. Zo werkt het Chinese top-downmodel ook. Kritiek op de president, zelfs als daarvoor de metafoor van Winnie de Poeh wordt gebruikt, is binnen enkele minuten gecensureerd.

Een maat­schap­pe­lijk debat is pas het beginpunt

Dit is geen ver-van-ons-bedshow in China, maar een vraagstuk dat wereldwijd moet worden beantwoord. Totdat we algoritmen kunnen controleren weten we niet of er te weinig of te veel offline wordt gehaald, en op basis van welke criteria of wetten. Dat zou iedereen die geeft om vrije meningsuiting of vrije informatievergaring zorgen moeten baren. Een maatschappelijk debat is pas het beginpunt.

Niet alleen bedrijven schakelen algoritmen in. Recht op voorlopige vrijlating uit gevangenissen, de kans op het terugbetalen van een lening, 'goed gedrag': ook in open samenlevingen kunnen door algoritmen gestuurde keuzes grote gevolgen hebben. Zeker als de overheid die inzet. In New York City besliste de gemeenteraad vorig jaar daarom dat mensen het recht moeten hebben om in beroep te gaan tegen geautomatiseerde beslissingen waar zij nadeel van ondervinden. Dat is een terechte stap die navolging verdient in heel Europa, en dus ook in Nederland.

Prioriteit

Er is dus veel meer nodig dan alleen een maatschappelijk debat, of ethische overwegingen, om de impact van technologie te kaderen. Het toepassen van wetten online zoals die offline gelden moet de belangrijkste prioriteit zijn. De mate waarin wij er in de open samenlevingen over de hele wereld in slagen om de rechtsstaat ook online te laten bestaan, zal moeten zorgen dat we hier niet vervallen in Chinese toestanden. De rechtsstaat online is waar ik me al jaren hard voor maak in het Europees Parlement.

Lees ook: Europa heeft een unique selling point: de ethische kijk op kunstmatige intelligentie

Als het aan Emmanuel Marcron ligt, krijgt Europa een leidende stem in de ontwikkeling van artificial intelligence (AI). 

Waarom we robots zo vrezen

Hoe mooier en slimmer robots zijn, des te groter de existentiële angst die ze bij ons oproepen. Ze krenken ons narcisme, zo laten recente films krachtig zien.

En waarom dat misschien toch niet zo nodig is: Hersenen zijn voorlopig ruimschoots superieur aan een robot

Kunstmatige intelligentie is vooralsnog beperkt tot specialistische, goed gedefinieerde taken in een gecontroleerde omgeving

Deel dit artikel

Door op ethiek te focussen komen autoritaire regimes en bedrijven die vooral met winst bezig zijn er te makkelijk vanaf

Een maat­schap­pe­lijk debat is pas het beginpunt