Een maatschappelijk debat over de ethiek rond nieuwe technologieën is hard nodig

Beeld AP

Een taxi- of betaaldienst die uitgroeit tot een systeem dat je hele leven beheerst. Dat is de nabije toekomst. En terwijl technici graag de ethische implicaties daarvan buiten beschouwing laten, is dit nu juist waar we het wel over moeten hebben, stellen Justin Koornneef en Maarten van Heems van Campagnebureau BKB. 

Hongkong was deze maand het toneel voor RISE, de grootste conferentie in Azië over de toekomst van technologie. Centraal stonden computers en apparaten die zelfstandig intelligente beslissingen nemen. Aziatische en Amerikaanse bedrijven gaven vol enthousiasme vier dagen lang een kijkje in de nabije toekomst. De meest gehoorde uitspraak was: 'Als we de ethische implicaties even buiten beschouwing laten, dan....' Maar daar moeten we het nu juist wèl over hebben.

Grab, kortweg de tegenhanger van taxi-app Uber in Zuidoost-Azië, maakte op RISE bekend zich ook op openbaar vervoer, voedsel, bankieren, chatten, agendabeheer en andere producten en diensten te gaan storten. Van high tech Singapore tot ontwikkelingsland Cambodja regelen hun gebruikers straks binnen een en dezelfde app alles wat ze nodig hebben. De keerzijde is dat Grab daarmee een monopoliepositie krijgt waarbij Facebook en Google verbleken.

Omdat het bedrijf zijn efficiëntie ook loslaat op diensten als openbaar vervoer en sociale voorzieningen, lijkt het een kwestie van tijd voor het de facto buslijnen en uitkeringen overneemt. Wie geen klant wordt van Grab heeft dan automatisch slechtere toegang tot publieke diensten.

Sociaal waarderingssysteem

De app Alipay in China beheerst nu al het leven van haar meer dan 100 miljoen gebruikers. Op basis van de data over hun gedrag en voorkeuren is een sociaal waarderingssysteem ingevoerd. Gebruikers werken permanent aan een zo hoog mogelijke score. Wie te weinig punten heeft, kan bijvoorbeeld niet meer terecht bij luxe hotels en vliegtuigmaatschappijen. Vrienden met hoge scores zijn goed voor jouw eigen score en andersom. Mensen met lage scores zien zich geconfronteerd met maatschappelijke uitsluiting.

Steeds slimmere computers zijn niet nieuw. Wel nieuw is dat de rekenkracht nu zo groot is, dat een taxi- of een betaaldienst, in enkele jaren kan uitgroeien tot een systeem dat je hele leven beheerst. Deze technologie gaat ook de werkvloer veranderen. De topman van Microsoft, Brad Smith, presenteerde op RISE de vorderingen qua herkenning van gezichten, spraak en teksten. Hij voorspelt dat als je baan ligt op een terrein waarop deze technologie goed bruikbaar is, zoals notuleren, spraakopdrachten en vragen behandelen en tekstverwerking, je nog maximaal tien jaar werk hebt. Draait je baan om waardevol fysiek contact, zoals verpleging, dan zit je goed.

Iemand betaalt met zijn smartphone. Beeld EPA

Hoewel, Amazon werkt in een wedloop met Google (Duplex) en Apple (Siri) aan de overstap van machine-georiënteerde communicatie naar zo goed als menselijke interactie. Tientallen miljoenen Amerikanen hebben Amazons assistent 'Alexa' al in de woonkamer staan en die lijkt qua snelheid van antwoorden, toon en woordkeuze steeds meer op een mens. Het bedrijf Digital Domain toonde in Hongkong hoe met een eenvoudige smartphonecamera spraak op een natuurlijke manier op andermans gezichten is te projecteren. Straks praat je niet meer tegen Alexa, maar tegen je favoriete filmster, je vroegere liefje of je overleden oma.

Angstaanjagend

Dit zijn maar enkele voorbeelden van technologie die ons leven beter kan maken en tegelijkertijd tot angstaanjagende situaties kan leiden. Tegenhouden gaat niet lukken. Wat Nederland wel kan doen, is het vacuüm tussen programmeurs die de ethische vragen even buiten beschouwing willen laten, en miljarden individuen die de potentiële gevolgen van hun technologiegebruik niet kunnen overzien, vullen met een maatschappelijk debat over de waarden waaraan we die technologie willen toetsen. Laten we daarmee beginnen voordat Alexa het hoogste woord voert.

Lees ook: 

Wat als de overheid een puntensysteem invoert op basis van gedrag?

Marloes Morshuis laat overtuigend zien wat het betekent als de overheid een puntensysteem invoert.

Lees ook:

Discriminatie ligt op de loer bij gebruik van big data

Een staatscomputer, die beslissingen neemt. Het is steeds meer de realiteit. Meer transparantie daarover is cruciaal om discriminatie te voorkomen, meent Tweede-Kamerlid Kees Verhoeven (D66).

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2019 de Persgroep Nederland B.V. - alle rechten voorbehouden