Dodelijke robots die zelf hun handelingen bepalen, willen we dat?

De X-47B, dit Amerikaans prototype kan geheel zelfstandig op een vliegdekschip landen. Beeld AFP

De onbemande en op afstand bedienbare drones krijgen technisch nog geavanceerdere opvolgers; robots die geheel zonder tussenkomst van mensen kunnen doden. Willen we zulke wapens toestaan? En wie is verantwoordelijk als een drone zelf de beslissing neemt iemand te doden?

De huidige generatie drones is niet meer weg te denken uit de moderne oorlogsvoering. Ze zijn goedkoper en wendbaarder dan bemande toestellen en brengen het leven van de eigen manschappen niet in gevaar. De Amerikanen gebruiken drones vooral in Pakistan, tot grote onvrede van de lokale bevolking. Israël liquideerde er eerder deze maand Hamasleider Ahmed Jabari mee. Lijken deze krijgshandelingen nog op een computerspel, met de ontwikkeling van volledig onafhankelijk functionerende en zwaar bewapende robots wordt het pas echt science fiction. Met nadruk op fiction, want de techniek is momenteel nog niet zover dat robots zichzelf kunnen besturen.

Killerrobots
Daarin komt snel verandering als het aan de Verenigde Staten, Israël, China, Zuid-Korea, Duitsland, het Verenigd Koninkrijk en Rusland ligt. Deze landen steken veel tijd in de ontwikkeling van autonome 'killerrobots'. Tot bezorgdheid van mensenrechtenorganisaties. Zij vrezen dat de bewapende computers op termijn zelf de beslissing nemen of een doelwit gerechtvaardigd is of niet. Toch hoeft dat geen reden tot bezorgdheid te zijn, zo liet het Amerikaanse ministerie van Defensie doorschemeren. De website Cryptome.org publiceerde documenten die eerder deze week zijn getekend door onderminister van Defensie Ashton Carter. Daarin verzekeren de Amerikanen dat robots niet zelf mogen beslissen over gewelddadige acties, maar dat het besluit om tot dodelijk geweld over te gaan altijd door een mens moet worden genomen.

Toch stellen de richtlijnen Miriam Struyk van IKV Pax Christi niet gerust. Volgens haar verkiest het Pentagon restricties boven een verbod. 'En zeker waar het gaat om volledig autonome wapens zien wij dat als een zeer gevaarlijke stap', zegt Struyk. 'We hebben ook bij andere wapens, bijvoorbeeld landmijnen, gezien dat je er niet komt met papieren beperkingen over hoe ze verantwoordelijk en goed gebruikt moeten worden. Het wapen zelf is een bedreiging voor burgers en daar kan geen restrictie verandering in teweeg brengen.'

Vorige week was het de mensenrechtenorganisatie Human Rights Watch die in het rapport Losing Humanity waarschuwde voor te autonome onbemande toestellen. Niet alleen ontbreekt een belangrijke menselijke overweging, zegt de organisatie, maar er zijn ook belangrijke juridische consequenties: wie is verantwoordelijk voor de autonome beslissing van een drone? En kunnen zelfsturende robots regels als proportionaliteit van geweld zodanig toepassen dat ze voldoen aan het internationaal humanitair recht? IKV Pax Christi denkt van niet. Volgens haar zijn de wapens daarmee in strijd met datzelfde humanitair recht.

Wordt met killerrobots de geweldsdrempel te laag?
'Dan is er nog de vraag wat dergelijke wapens doen met ons denken over oorlog en met de publieke en politieke discussie over zaken van leven en dood', stelt Struyk. 'Wordt de drempel om gewapend op te treden niet heel laag? Is een militair technologische ingreep nu echt de juiste oplossing voor complexe politieke conflicten?'

Human Rights Watch wil met een bindend verdrag het gebruik van volledige autonome wapens verbieden. IKV Pax Christi pleit voor een mondiale discussie waarbij het internationaal humanitair recht leidend moet zijn. 'De discussie over drones en robots wordt momenteel gedomineerd door de technische vraag: wat is er allemaal mogelijk? Maar voordat die vraag wordt beantwoord, moeten we de vraag stellen of we deze wapens wel willen', zegt Struyk. 'De ontwikkeling van de atoombom laat zien dat we niet moeten wachten de vraag naar wenselijkheid te stellen tot het wapen bestaat. Dan zijn we immers al te laat. Het juiste moment om de discussie te starten of we autonome 'killerrobots' een halt toe willen roepen, is nu.'

 
Wie is verantwoordelijk voor de autonome beslissing van een drone? En kunnen zelfsturende robots regels als proportionaliteit van geweld zodanig toepassen dat ze voldoen aan het internationaal humanitair recht?
Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden