Uw profiel is aangemaakt

U heeft een e-mail ontvangen met een activatielink. Vergeet niet binnen 24 uur uw profiel te activeren. Veel leesplezier!

De killer robot: een wapen zonder rem erop

Home

Alexandra van Ditmars

De MAARS (Modular Advanced Armed Robotic System), een gewapende robot, is een nieuw, omstreden type wapen. © reuters

Een groep ondernemers uit de robotbranche schreef een opmerkelijke waarschuwing aan de VN: stop de zelfdenkende wapens.

De Verenigde Naties werden deze week in een open brief gewaarschuwd voor sciencefictionscenario's die werkelijkheid dreigen te worden. Tenminste, dat is de angst van ruim honderd robotica-ondernemers die hun zorgen uitspreken over killer robots. Deze robots scannen hun omgeving en schieten zelfstandig op mensen. Er is al zo'n robot in werking op de grens van Noord- en Zuid-Korea. De ontwikkeling en het gebruik van zulke autonome wapensystemen moet worden gestopt, schrijven de ondernemers. Anders wordt het later moeilijk 'de doos van Pandora weer te sluiten'.

Lees verder na de advertentie

Hoe om te gaan met dergelijke technische ontwikkelingen? En is de angst ervoor terecht?

Gert-Jan van der Heiden, hoogleraar metafysica aan de Radboud Universiteit, klinkt de oproep tot minder wapentuig mooi in de oren, maar hij vindt de briefschrijvers dubbelhartig. "Bij de ondertekenaars staan allerlei CEO's die zelf de techniek produceren die deze toepassing mogelijk maken. Nu kiezen zij een specifiek voorbeeld daarvan dat we niet verder moeten ontwikkelen. De killer robots zouden gehackt kunnen worden, waarschuwen zij ons, om gebruikt te worden voor terroristische doeleinden. Maar de risico's die ICT in onze samenleving met zich meebrengt zijn helemaal niet nieuw."

Ze verschillen niet wezenlijk van andere technieken

Gert-Jan van der Heiden

"Allerlei andere technieken die deze ondernemers ook ontwikkeld hebben, stellen ons al jaren aan soortgelijke gevaren bloot. Denk bijvoorbeeld aan de hackersaanvallen op ziekenhuizen. Die werden daarmee volledig platgelegd. De voordelen die techniek ons oplevert, brengen altijd ook grote gevaren met zich mee. De killer robots worden nu als groot nieuw gevaar gepresenteerd, terwijl die niet wezenlijk verschillen van andere technieken. Daarmee pretenderen de CEO's bovendien een ethisch bewustzijn te hebben, wat hun reputatie ten goede komt. Maar bij andere technieken met soortgelijke risico's trekken zij niet aan de alarmbel."

Algoritme 

"Killer robots verschillen in mijn ogen wel van andere technologieën", reageert Ingrid Robeyns, hoogleraar ethiek aan de Universiteit Utrecht.

"Deze robots zijn gemaakt om mensen te doden. Het probleem is dat een algoritme bepaalt of er wel of niet geschoten wordt. Op basis van een wiskundig systeem wordt beslist over leven en dood, zonder dat er enige morele capaciteit aan te pas komt. Wanneer mensen beslissingen nemen, wegen zij factoren af. Dat krijg je nooit in een algoritme, omdat het om kleine contextuele zaken gaat. Stel je voor dat je besluit om tien vogels in je tuin dood te schieten. Je schiet de eerste dood en krijgt opeens een inzicht, bijvoorbeeld omdat je ziet dat de vogel pijnlijk sterft. Je heroverweegt je beslissing en besluit de andere negen vogels in te leven laten. Die robot kan dat niet. Zodra die is aangezet, zit er geen rem meer op de 'beslissingen'.

"Ik kan me voorstellen dat er een situatie komt waarbij een robot mensen doodt, over wie iedereen het eens is dat de robot niet op ze had moeten schieten. Het is bij zo'n situatie heel gemakkelijk de verantwoordelijkheid door te schuiven. Iemand ontwikkelde de software, iemand programmeerde de robot, iemand zette die ergens neer - maar niemand nam daadwerkelijk de beslissing tot schieten. Wie draagt dan de morele verantwoordelijkheid?

Spelen met vuur 

Van der Heiden: "Ik las de brief van de ondernemers op de website van het Future of Life Institute. Bovenaan die pagina staat een logo van een boom. Die toont duidelijk het dubbele karakter van techniek. De ene kant van de boom staat in bloei: technologie biedt ons de mogelijkheden het leven zo prachtig mogelijk te maken. De andere kant van de boom is dood: technologie kan leiden tot zelfdestructie. De Franse techniekfilosoof Bernard Stiegler stelt dat de mens altijd al techniek heeft gebruikt. Volgens de oude Griekse mythen is vuur een van die eerste technieken. De mens is dus degene die van nature met vuur speelt.

"Welke kanten er aan techniek zitten, wordt pas duidelijk wanneer dat spel ons in gevaar brengt. Het ethische denken van de mens hobbelt dus altijd achter de techniek aan. En vandaag ontwikkelen technologieën zich zo snel, dat de ethische reflectie steevast te laat dreigt te komen, omdat nieuwere technieken ons alweer voor andere problemen plaatsen.

Deze doos van Pandora moeten we zo snel mogelijk dichtlijmen

Ingrid Robeyns

"We pogen met technologie zoveel mogelijk grip op de wereld te krijgen. Maar omdat onze omgang met techniek ook altijd spelen met vuur is, wordt volgens filosoof Martin Heidegger in dit streven naar zekerheid ook altijd een ultieme onzekerheid geboren. In zijn tijd was dat de atoombom die alles kon vernietigen, voor ons zijn het bijvoorbeeld de killer robots."

Robeyns: "Wat daarom nu van belang is, is het stellen van de vraag: zijn we het erover eens dat dit een techniek is die we absoluut niet moeten willen? Of gaat dit over een techniek die misschien toch voordelen oplevert, mits het gereguleerd is? Bij dat laatste kun je bijvoorbeeld denken aan het uitschakelen van IS, zonder dat eigen manschappen sneuvelen. Maar ik zou zeggen: met het oog op de risico's moeten we echt niet denken dat deze techniek een goed idee is.

"Mensenlevens bepaal je niet met algoritmes en conflicten kunnen juist verder oplaaien als we daarbij robots inzetten. De praktische vraag van wat nu precies te doen, moeten mensen met specifieke kennis over deze techniek helpen oplossen. Het sluiten van internationale verdragen is ook belangrijk, al is het naïef te denken dat het probleem daarmee is opgelost - de techniek bestaat, dus blijft ook bestaan. Maar we moeten nu eerst duidelijk krijgen dat we die niet moeten willen. Deze doos van Pandora moeten we zo snel mogelijk dichtlijmen. Met heel sterke lijm."

Lees ook: Hoeveel ruimte gunnen we de robot?

Deel dit artikel

Ze verschillen niet wezenlijk van andere technieken

Gert-Jan van der Heiden

Deze doos van Pandora moeten we zo snel mogelijk dichtlijmen

Ingrid Robeyns