Wat als robot straks ook zelf kan doden?

Over twintig tot dertig jaar kunnen volgens experts de eerste autonome robots worden ingezet. Beeld reuters
Over twintig tot dertig jaar kunnen volgens experts de eerste autonome robots worden ingezet.Beeld reuters

'Killer robots' - de term doet denken aan films als Robocop of de Terminator. Een zelfbeslissende machine met dodelijke capaciteiten. Voor nu misschien nog science fiction, maar de ontwikkelingen gaan razendsnel en het debat over de ethische en juridische implicaties van dit soort machines is in volle gang. Morgen wordt een VN-rapport hierover besproken in de Mensenrechtenraad in Genève.

Robots binnen het leger zijn geen nieuw verschijnsel. De landmacht gebruikt ze om bermbommen op te ruimen en de luchtmacht gebruikt drones - onbemande vliegtuigen - om doelen aan te vallen of inlichtingen te verkrijgen. Bij al deze voorbeelden is de besturing en de besluitvorming in handen van mensen. Dat verandert straks, als de machine zelf een doelwit kan selecteren en doden. Bij deze 'dodelijke autonome robots' is menselijk ingrijpen niet meer aan de orde.

'Stopzetting van de technologische ontwikkeling'
Israël, de Verenigde Staten en het Verenigd Koninkrijk zijn een eind op weg bij de ontwikkeling van de autonome robot en ook de onderzoeksbudgetten van China, Canada en Duitsland zijn gestegen. De robots hebben aantrekkelijke kanten voor deze landen: ze verminderen het aantal slachtoffers aan eigen zijde en zijn goedkoper dan mankracht. Over twintig tot dertig jaar kunnen volgens experts de eerste autonome robots worden ingezet.

Het rapport van de VN-rapporteur roept op tot een tijdelijk stopzetting van de technologische ontwikkeling van deze robots. Een beleidscommissie moet alle voors en tegens in kaart brengen. Zelf is de rapporteur niet alleen maar sceptisch over de robots - hij omschrijft juist mensen als 'de zwakste schakel' tijdens oorlog. "Het tempo van oorlogvoeren en de intensiteit zijn hoog waardoor beslissingen snel genomen moeten worden. De reactietijd van een computer is veel sneller dan die van mensen."

'Menselijk oordeel blijft nodig'
Maar oorlog is meer dan data verwerken met sensoren en processors, stelt Alexander Leveringhaus, als onderzoeker verbonden aan het Oxford instituut voor ethiek, recht en gewapend conflict. Data moeten niet alleen verwerkt maar ook geïnterpreteerd worden. "Is iemand een burger of een gewapende strijder? Voor mensen is het soms al moeilijk dat onderscheid te maken, laat staan voor een robot."

Gecompliceerde oorlogssituaties zijn er genoeg. Mag er wel of niet op luchtafweer geschoten worden als deze op een school staat? Mag een vijandelijke eenheid wel of niet worden aangevallen als deze zich op een drukke markt bevindt? Het zijn dit soort situaties waar volgens Human Rights Watch een menselijk oordeel nodig is. "Ik maak me zorgen om de veiligheid van burgers", zegt Mary Wareham die voor HRW de actie 'Stop Killer Robots' coördineert, die een verbod op de ontwikkeling van deze robots als doel heeft.

'Angst is niet reëel'
Naast de ethische kwesties omtrent het gebruik van 'killer robots' zijn er ook juridische vraagstukken. Het huidige oorlogsrecht richt zich op mensen en niet op autonome machines. Wie is er volgens het oorlogsrecht verantwoordelijk als de robot een fout maakt? Is het de fabrikant, de programmeur, de staat of toch de militaire bevelvoerder?

Zowel Leveringhaus als Thomas Rid van de afdeling Oorlogsstudies aan het Londense Kings College vindt dat het debat de positie van mensen verheerlijkt. Volgens Rid haalt 'oorlog het slechtste in mensen naar boven'. De verhalen van verkrachting als oorlogswapen en mensonterende behandeling door gevangenisbewaarders zijn welbekend. Leveringhaus: "Mensen zijn heel gevaarlijk, alleen lijkt iedereen dat te willen vergeten". Voor Wareham van HRW doet dat er in deze discussie niet toe. "De beslissing om dodelijk geweld te gebruiken moet altijd van mensen komen. Door wie word je liever vermoord, door een robot of een mens?"

De angst voor een 'robotleger', waar mensen geen deel meer van uitmaken, is volgens Leveringhaus niet reëel. "Robots zullen alleen gebruikt worden als aanvulling op mensen." Rid: "Menselijk lijden is het hele idee van oorlog. Een oorlog tussen machines is politiek gezien onlogisch."

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden