Uw profiel is aangemaakt

U heeft een e-mail ontvangen met een activatielink. Vergeet niet binnen 24 uur uw profiel te activeren. Veel leesplezier!

Debat nodig over automatisering dood

Home

LAMBÈR ROYAKKERS, ONDERZOEKER BIJ DE TU EINDHOVENRINIE VAN EST en ONDERZOEKER BIJ HET RATHENAU INSTITUUT

Computers nemen de besturing van bewapende drones over en dus ook de keuze tussen leven of dood. Onderzoekers Lambèr Royakkers en Rinie van Est pleiten voor een debat.

Militaire bewapende drones die de VS inzetten in de oorlog in Afghanistan worden centraal bediend vanuit het controlecentrum in Nevada duizenden kilometers verderop. Verschillende landen werken echter aan het steeds autonomer maken van drones. De Amerikaanse luchtmacht investeert daar miljarden in en verwacht dat rond 2050 de eerste autonome bewapende militaire vliegtuigen zullen rondvliegen.

Inmiddels ontstaat er een internationaal debat om de ontwikkeling van robots te voorkomen die zelf besluiten om te doden. In 2013 riep de Mensenrechtenraad van de VN op tot een discussie over een moratorium op 'killer robots'. Afgelopen november vertelde ook minister Hennis van defensie dat ze niet zit te wachten op dergelijke machines. Volgens het internationaal humanitaire oorlogsrecht dient namelijk altijd een mens verantwoordelijk gehouden te kunnen worden voor beslissingen over leven en dood. Ook de Amerikaanse defensie vindt dat bij het besluiten over het inzetten van geweld menselijke oordeelsvorming in voldoende mate aanwezig moet zijn. Bij een mogelijk toekomstige autonome bewapende drone is dat duidelijk niet het geval.

Het is echter de vraag of in de huidige praktijk van op afstand bestuurde drones nog aan de voorwaarde van een menselijke beslissing over het doden van een medemens wordt voldaan. Een voormalig drone-piloot vertelde namelijk op de onthullingswebsite The Intercept dat bijna negentig procent van de besluiten om over te gaan tot drone-aanvallen wordt gebaseerd op informatie uit elektronische communicatie, zogenaamde signaal-intelligentie. Dit kan volgens hem leiden tot 'erg schimmige' situaties. Via geolocalisering stelt de geheime dienst NSA bijvoorbeeld vast waar de sim-kaart van de telefoon van het beoogde doelwit zich bevindt. Aangezien de inlichtingendiensten ter plaatse dergelijke informatie zelden verifiëren, voert de drone-operator in zo'n geval de raketaanval uit, in de hoop dat de telefoon in handen is van het doelwit en niet is afgegeven aan een onschuldig persoon.

In dit geval beslist dus nog steeds een mens over leven en dood, maar de vraag is in hoeverre de drone-piloot nog volledige controle heeft over zijn beslissingen. Omdat de computer zijn keuze sterk bepaalt, lijkt er al geen sprake meer te zijn van een goed geïnformeerde eigen morele keuze. Zo wordt de illusie van een menselijke morele keuze in stand gehouden, terwijl in feite de beslissing om al dan niet te doden in sterke mate is voorgeprogrammeerd door de computer. Deze verregaande 'automatisering van de dood' is des te schrijnender wanneer men beseft dat bij aanvallen met drones buiten oorlogsgebieden, zoals in Pakistan, Jemen en Somalië, al honderden burgerslachtoffers zijn gevallen.

Het is daarom belangrijk dat er een internationale discussie op gang komt over de voorwaarden waaronder drone-operators nog weloverwogen morele keuzes over leven en dood kunnen maken.

Een eerste stap is de erkenning van dit ethische probleem. Op dit moment lijkt dat bewustzijn er nog niet te zijn. Vandaag is er weer een Kamerdebat over militaire drones. Een mooi resultaat zou zijn dat de Nederlandse regering erkent dat de huidige praktijk van de inzet van op afstand bestuurbare drones problematisch is. Zeker nu naast de VS steeds meer andere landen bewapende militaire drones bezitten - Nederland schaft binnenkort vier Reapers aan die bewapend kunnen worden - is er snel een internationaal debat nodig over een verantwoorde inzet daarvan, zowel buiten oorlogsgebieden als daarbinnen. Met Den Haag als internationale stad van recht en vrede binnen de landsgrenzen, zou het Nederland passen om het initiatief te nemen tot zo'n debat.

Deel dit artikel