NieuwsModern wapengebruik

AIV: Kabinet moet aansturen op verbod volautomatische ‘killer robots’ à la Squid Game

Israëlische drones, gebruikt bij Palestijnse demonstraties, mei 2021.  Beeld AFP
Israëlische drones, gebruikt bij Palestijnse demonstraties, mei 2021.Beeld AFP

Dubbel advies aan kabinet: stuur aan op verbod volautomatische ‘killer robots’ à la Squid Game. Maar zet tegelijk vol in op nieuwe wapensystemen met enige menselijke invloed.

Christoph Schmidt

Echte ‘killer robots’, militaire systemen die zonder menselijke bemoeienis beslissen over leven en dood, bestaan eigenlijk nog niet. Maar door de razendsnelle technologische ontwikkelingen kan dat een kwestie van tijd zijn. Nederland zou op voorhand al moeten aandringen op een internationaal verbod op ‘volledig autonome wapensystemen’. Dat staat in een rapport van de Adviesraad Internationale Vraagstukken (AIV) dat woensdag verscheen.

We kennen de onbemande drones die met doorgaans grote precisie doelen ver weg kunnen bombarderen. De Nederlandse krijgsmacht gebruikt de zogeheten ‘Goalkeeper’ aan boord van marineschepen, een systeem dat snel vijandelijke raketten kan uitschakelen.

Bij zulke systemen zitten op beslissende momenten een of meerdere mensen van vlees en bloed aan de knoppen. De AIV raadt de Nederlandse overheid aan om vol in te zetten op dergelijke ‘gedeeltelijk autonome wapensystemen’, omdat die nu eenmaal de toekomst hebben. Alle toonaangevende militaire machten in de wereld zijn ermee bezig. Tegelijk moet Nederland zich nadrukkelijk bemoeien met internationale afspraken over de inzet ervan, onder meer in ethisch opzicht, vindt de AIV.

Menselijke controle

Uitgangspunt daarbij moet zijn: ‘betekenisvolle menselijke controle’. Alleen al uit ethisch oogpunt moeten gevolgen van militair ingrijpen altijd zijn te herleiden tot menselijke beslissingen. Dat geldt ook voor de uiteindelijke politieke verantwoordelijkheid.

Volautomatische systemen, die helemaal hun eigen gang gaan, zijn een ander verhaal. Op dit moment komt een Zuid-Koreaans robotgeweer daarbij nog het dichtst in de buurt. Dat is al actief in de gedemilitariseerde zone tussen Noord- en Zuid-Korea.

Dat Samsung-systeem merkt indringers op en geeft hun verbale waarschuwingen. Het zou overgave-signalen (handen omhoog, wapen laten vallen) moeten herkennen. Als de indringer verder nadert, opent het robotgeweer automatisch het vuur. Degenen die de Zuid-Koreaanse Netflix-serie Squid Game hebben gezien, krijgen bij dit beeld – uit de werkelijkheid – misschien koude rillingen.

Onderzoeksvraag

Dergelijk wapengebruik moeten we niet willen, concludeert de AIV. Maar de ‘gedeeltelijke’, meer menselijke variant verdient juist meer aandacht, aldus de adviesraad. Die beantwoordt daarmee de onderzoeksvraag die het kabinet-Rutte III in juni vorig jaar bij de raad had neergelegd.

Drie landen zijn toonaangevend in ontwikkeling en gebruik van de nieuwe technologieën: de Verenigde Staten, China en Rusland. De opvallendste andere voorlopers zijn Zuid-Korea, Israël en Turkije, ziet de AIV.

In de EU, en Nederland in het bijzonder, valt op dat het beleid rond kunstmatige intelligentie vooral is gericht op civiel gebruik, niet op militaire doeleinden. “Op het moment dat Nederland ten aanzien van deze technologische en militaire ontwikkelingen niet meekomt, staat het aan serieuze gevaren bloot, betogen sommige deskundigen”, zo staat in het AIV-rapport.

Volgende week VN-beraad

De hele volgende week buigt een VN-lichaam zich in Genève over de kwestie van de autonome wapensystemen. Het gaat om een vijfjaarlijks ‘toetsingsconferentie’ over ‘bepaalde conventionele wapens’. Internationaal is er nog maar weinig vastgelegd over de voorwaarden waaraan inzet van robotachtige wapens moet voldoen. De landen die er het meest gebruik van maken, willen uiteraard zo min mogelijk regels. Ook binnen Europa zijn de verschillen van inzicht groot. Frankrijk belicht vooral het militaire, geopolitieke belang. Duitsland onderstreept het maatschappelijke belang van kunstmatige intelligentie en wil dat de EU een voortrekkersrol speelt op het gebied van mondiale regelgeving.

Lees ook:

De opmars van drones maakt oorlog op afstand makkelijker, tot bezorgdheid van vredesactivisten

Militaire drones hebben dit jaar al drie een keer een sleutelrol gespeeld in conflicten, tot grote bezorgdheid van vredesactivisten. ‘Het wordt allemaal steeds obscuurder.

‘Het gevaar van drones vraagt om nieuwe afspraken’

Een hoofdredactioneel commentaar uit september 2019

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden