Of de zelfrijdende auto het leven van een baby of een bejaarde spaart, hangt af van het land waar hij rijdt

Een zelfrijdende auto over de A2. Beeld ANP

De auto die alles zelf kan moet bij gevaar kunnen kiezen wiens leven wordt gespaard. De uitkomst verschilt per land. 

De zelfsturende auto heeft eindelijk toestemming gekregen om de weg op te gaan. Maar stel je voor: als hij het zebrapad nadert, steken daar plotseling drie mensen over. Doorrijden betekent hun dood, maar uitwijken zal de inzittenden het leven kunnen kosten­­. Wat moet deze zelfsturende auto doen?

Dat hangt er niet alleen van af wie er op dat zebrapad loopt, het hangt er ook van af waar in de wereld dat zebrapad ligt. Want hoewel er mondiale consensus bestaat over de grote morele lijnen, zijn er aanzienlijke culturele verschillen. Bouwers van zelfsturende auto’s én wetgevers moeten daarmee rekening houden.

Dat concludeert een internationele groep van onderzoekers, die een wereldwijd experiment hebben gedaan met hun ‘Moral Machine’, een online platform waarmee ze dilemma’s voorlegden die zich in het verkeer kunnen voordoen, ook voor volledig zelfsturende auto’s. Aan het experiment deden enkele miljoenen mensen mee in meer dan tweehonderd landen, schrijven de onderzoekers in vakblad Nature.

Twee kwaden

De Britse wetenschapper en schrijver Isaac Asimov formuleerde een halve eeuw geleden drie simpele regels waaraan een robot zich moest houden: hij mocht geen mens verwonden, hij moest de mens altijd gehoorzamen (tenzij hij daarmee regel 1 zou schenden), en hij moest zichzelf behouden (tenzij dat in strijd zou zijn met regel 1 of 2).

Beeld Louman & Friso

Helder. Maar de zelfsturende auto komt hiermee niet weg. In het verkeer doen zich situaties voor waarin letsel niet te vermijden is, en er gekozen moet worden tussen het minste van twee pijnlijke kwaden.

De menselijke bestuurder overkomt dat ook, maar omdat het in een flits gebeurt zal die hooguit achteraf beseffen voor welk dilemma hij heeft gestaan. Een zelfsturende auto wordt echter geprogrammeerd door de mens. Dus die moet van tevoren bedenken welke instructies hij de robot meegeeft.

Uit de Moral Machine kwamen morele uitgangspunten naar boven waarover de hele wereld het eens is: spaar zoveel mogelijk levens, spaar liever mensenlevens dan dierenlevens, en spaar jonge levens liever dan oude.

Baby of bejaarde

Ook dat lijkt helder, maar de onderzoekers zien hier al een probleem opduiken. En wel in Duitsland, tot nu toe het enige land dat een wettelijke gedragscode heeft voor zelfsturende auto’s. Die code zegt dat in de instructies voor een zelfsturende ­auto geen onderscheid gemaakt mag worden naar persoonlijke kenmerken, zoals geslacht en leeftijd. Daar denkt de mensheid dus anders over. Voor de wetgever mag dat een logisch principe zijn, zeggen de onderzoekers, maar zo’n code moet door mensen worden onderschreven willen zij de zelfsturende auto accepteren als medeweggebruiker. 

Dat wordt een lastig verhaal als de wetgever moet bekennen dat het kan gebeuren dat die auto het leven van een baby neemt om dat van een bejaarde te sparen. In Aziatische landen wordt dat misschien nog geaccepteerd, want daar blijkt de voorkeur voor het leven van een baby boven dat van een bejaarde het zwakst. Maar in Latijns-Amerika is die voorkeur juist heel sterk, net als de voorkeur voor het sparen van een leven van een vrouw boven dat van een man.

Door in hun Moral Machine allerlei volk te laten oversteken, laten de onderzoekers belangrijke morele verschillen zien tussen werelddelen. Neem je de hele wereld voor het gemak bijeen, dan is duidelijk welke levens bij voorkeur gespaard moeten worden: baby, meisje, jongen, zwangere vrouw; in die volgorde. Onderaan de lijst staan hond, kat en mensen die niet het zebrapad nemen maar gewoon de weg op rennen.

Lees ook:

Eerlijk is eerlijk: De zelfrijdende auto gaat ook gewoon op voor het rijexamen

Als een zelfrijdende auto in z’n eentje de weg op wil, dan moet hij - net als de mens - eerst rijexamen doen. Hij moet zijn rijbewijs S halen, met de S van software.

Slimme auto’s nemen ons leven over met de data die ze verzamelen

Snuggere software in auto’s is handig, commercieel aantrekkelijk en gaat levens sparen. Maar het levert ook risico’s op voor onze privacy. ‘De auto wordt dé grote databron.’

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden