Zelfsturende auto op moreel kruispunt

technologie | Ook een auto die automatisch rijdt, moet bij een gevaarlijke situatie keuzes maken, net als menselijke weggebruikers. Dan moet die wagen goed geprogrammeerd zijn.

U zit in een auto die zichzelf bestuurt. Plots steekt een groep mensen de weg over. Voor remmen is het te laat. Rechts van de weg een betonnen muur, links een rotswand. Wat moet uw auto doen: de voetgangers overrijden, of uitwijken naar rechts en tegen de muur knallen?

Mensen die deze vraag kregen voorgelegd in een groot onderzoek, zeiden in meerderheid dat die zelfsturende auto de voetgangers zou moeten sparen, ook als dat zou leiden tot de dood van de inzittenden.

Het hele idee van zelfsturende auto's is dat ze veel minder brokken maken dan mensen, dus als het goed is, doet deze situatie zich niet voor. Maar als de zelfsturende auto regel wordt op de weg, kan het toch gebeuren. En de makers van die zelfsturende auto's moeten in ieder geval beslissen welke regels ze in hun software vastleggen. We moeten dilemma's als dit onder ogen zien, schrijft een team van Franse en Amerikaanse onderzoekers vandaag in vakblad Science.

De onderzoekers legden grote groepen Amerikanen verscheidene situaties voor, waarin de zelfsturende auto moest kiezen tussen het aanrijden van overstekers of het offeren van de eigen inzittenden.

De ondervraagden vonden het te ver gaan om tegen de muur te knallen om het leven van één overstekende voetganger te redden. Maar als het er meerdere zijn, gaan mensen liever zelf ten onder dan de voetgangers te overrijden. Zelfs bij de meest indringende vraag (Stel je voor dat je niet alleen in die auto zit, maar met een familielid) bleef die voorkeur overeind.

Mensen willen een utilistische auto, zoals dat heet: een auto die algemeen belang stelt boven eigenbelang. Ze vinden dat de automaten die in de toekomst de weg op komen, ook zo geprogrammeerd moeten worden. Maar als de onderzoekers gingen vragen naar hun bereidheid zo'n zelfsturende auto te kopen, kantelde het beeld. Als mensen al een zelfsturende auto zouden kopen, en hun enthousiasme voor dit nieuwe fenomeen bleek niet groot, dan in geen geval een utilistische. Goed voor de samenleving misschien, maar niet voor mij.

Het is een gekend beeld als algemeen en particulier belang botsen: mensen hebben de neiging voor zichzelf te kiezen, ook al weten ze dat ze het algemeen belang daarmee schaden. Er is ook een gekende oplossing voor: die heet overheid. Als de consument geen utilistische auto wil, zal de autofabrikant die niet maken. Dus moet de overheid voorschrijven dat zelfsturende auto's utilistisch móeten zijn. In het algemeen belang.

Maar als de overheid dat doet, zeggen de onderzoekers, zullen mensen minder warmlopen voor de zelfsturende auto. Dat gaat de komst van deze vernieuwing vertragen, terwijl die het verkeer juist veiliger zou maken.

Nevada was het eerst

WEpods, zelfsturende busjes, draaien hun rondjes op de campus van Wageningen Universiteit. Maar ze vervoeren nog geen mensen van en naar het treinstation in Ede, zoals de bedoeling was. De testfase van het project is wat uitgelopen. De Gelderse proef is wel een wereldprimeur genoemd, en dat kan kloppen als je alleen volledig zelfsturende automaten telt, zonder stuur en rempedaal. Maar er zijn wereldwijd vele projecten met zelfsturende vehikels. De Amerikaanse staat Nevada was in 2011 de eerste die wettelijk de weg opende. Maar in Nevada moeten de zelfsturende auto's nog wel stuur en pedalen hebben, en er moet ook iemand achter dat stuur zitten, voor het geval dat... In Europa hebben onder meer Groot-Brittannië en Frankrijk en Zwitserland zelfsturing wettelijk mogelijk gemaakt, op experimentele basis.

'Je kunt geen algemene regels formuleren voor alle mogelijke verkeerssituaties'

Lambèr Royakkers Ethicus

"Leuk voor aan de borreltafel", reageert Lambèr Royakkers, ethicus en filosoof aan de Technische Universiteit Eindhoven. "Het prikkelt het denken over moraliteit, en dat is heel goed, maar dergelijke dilemma's hebben nauwelijks realiteitswaarde."

Van de auto-ongelukken die zich voordoen, is 93 procent te wijten aan menselijke fouten, zegt Royakkers. Als we overstappen in volledig zelfsturende auto's neem je die categorie oorzaken in principe weg. De resterende 7 procent van de ongevallen wordt veroorzaakt door onvoorspelbare omstandigheden, zoals een plotselinge hagelbui. Omstandigheden die ook de zelfsturende auto niet kan beïnvloeden.

"Dan hou je misschien nog een promille van de ongevallen over waarin een keuze verschil kan maken. En die gevallen zijn niet te generaliseren: je kunt geen algemene regels formuleren voor alle mogelijke verkeerssituaties."

Zelfs met een op het oog eenvoudig uitgangspunt als het utilisme (Kies voor het algemeen belang en dus voor de kleinste algehele schade) kom je er niet uit, zegt Royakkers. "Stel dat de zelfsturende auto in een benarde situatie de keuze heeft tussen het aanrijden van de ene of de andere motorrijder. Motorrijder 1 draagt een helm, motorrijder 2 niet. Als je, in belang van het algemeen, de kans op schade wilt beperken, kies je voor het aanrijden van motorrijder 1. Maar toen we studenten deze vraag voorlegden, kozen die allemaal voor het aanrijden van motorrijder 2. Want die kon beter weten en had een helm moeten dragen."

De suggestie dat we over al die morele dilemma's consensus nodig hebben om de zelfsturende auto te kunnen programmeren, wijst Royakkers dan ook van de hand: "Bij het ontwerpen van de zelfsturende auto moeten we maar op een ding letten: het beperken van het aantal ongelukken. Als die auto in situaties belandt waarin hij het niet weet, zal hij remmen. Het zij zo. Als er een boom op de weg ligt, rijden wij er door de berm met een boog omheen. Een zelfsturende auto zal dat niet doen, want die is gebouwd om op de weg te blijven. En dat is voor de verkeersveiligheid maar goed ook."

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden