Techniek wordt de hoeder van ethiek

Apparaten hebben geen gevoelens van berouw en spijt en zijn daarom geen bron van ethiek. Maar wel nemen ze de mensen veel morele beslissingen uit handen. De mens delegeert zijn ethiek aan apparaten, zegt de Delftse hoogleraar Jeroen van den Hoven.

’Ethiek is een hartverscheurend menselijk fenomeen”, zegt Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft en wetenschappelijk directeur van het Ethiek Centrum van de drie technische universiteiten in Nederland.

Zolang dingen geen wroeging, mededogen of spijt voelen, kunnen ze nooit de brón van ethiek zijn. Wel is het mogelijk de uitvoering van onze morele ideeën te delegeren aan apparaten, vindt Van den Hoven. Zo zorgt de techniek ervoor dat wij ons in overeenstemming met onze morele opvattingen gedragen.

„Bijvoorbeeld een wapen dat alleen maar schiet in handen van de rechtmatige eigenaar. Door toepassing van biometrische technologie weet het wapen of het door de rechtmatige eigenaar wordt vastgehouden. Zo vertaal je een ethische vraag – wie mag er met het wapen schieten? – in techniek: er kan maar één iemand mee schieten.”

In onze complexe en dynamische wereld is het delegeren van moraal volgens Van den Hoven steeds vaker aan de orde.

„Informatietechnologie heeft onze ondernemingen soms zo ingewikkeld gemaakt, dat we niet meer overzien wat wel of niet goed is. Dan moet ethiek in het systeem zelf worden ingebouwd. Neem het systeem met patiënteninformatie in een ziekenhuis. We hebben het morele en juridische ideaal van privacy maar je kunt niet met elke dokter, verpleegkundige of verzekeraar die het systeem gebruikt, meekijken of ze wel volgens de regels werken. Elke seconde flitsen er megabytes aan persoonsgegevens heen en weer: radiologische beelden van tumoren die in India worden geanalyseerd en weer terugkomen, recepten, declaraties. Wat daarmee gebeurt, is niet meer door mensen te overzien, ook niet door de zeventig medewerkers van het College Bescherming Persoonsgegevens. Om het ideaal van privacy in die moderne omgeving echt waar te maken, moeten daarom de eentjes en nulletjes van het systeem meewerken aan de uitvoering van ons morele ideaal.”

Dan hoeven wij niet meer na te denken of we het goed doen?

„Dat klopt, in bijzondere gevallen. De normen worden bij het ontwerp al ingebouwd. We zijn gewend aan een wereld waarin het mogelijk is het moreel onwenselijke te doen. Ik kan naar buiten lopen en iemand met een knuppel op zijn hoofd slaan. We gaan steeds meer naar een wereld waarin het onmogelijk is het moreel onwenselijke te doen. Een onfeilbare morele wereld, tenminste, als je alleen naar de uitkomsten kijkt.

Je auto start pas als je je gordel om hebt en geslaagd bent voor de alcoholtest. De deur gaat alleen open als je bevoegd bent en een pasje hebt om naar binnen te gaan. Je hoeft je nooit af te vragen: mag ik wel in deze kamer zijn? Als het niet mocht dan had het niet gekund.”

En als het wel kan, mag het dus?

„Daar gaan mensen in zo’n omgeving wel steeds meer van uit. Daarom moet je in het ontwerp de handelingsmogelijkheden beperken, zodat een systeem niet misbruikt kan worden. We weten dat het medische dossier van een zieke premier Balkenende in het ziekenhuis vaker wordt bekeken dan strikt noodzakelijk. Iedereen die er bij kan, kijkt uit nieuwsgierigheid even wat er met de premier aan de hand is. Dus moet je het systeem zo maken, dat alleen mensen die iets nodig hebben, toegang hebben tot het dossier.”

Een wereld waarin de morele keuzes al voor je gemaakt zijn.

„Dat is natuurlijk een dystopie, een anti-utopie, als je het doortrekt naar de hele samenleving. Zoals een spreekwoord luidt: use it or lose it. Als je nooit meer over een moreel probleem hoeft na te denken, verlies je je oordeelsvermogen. Terwijl juist het maken van ethische keuzes iets heel menselijks is. Maar in sommige gevallen is het beter dat het systeem aan de gebruiker keuzes ontneemt. Als ik Balkenende was, dan lag ik liever in een ziekenhuis waar het onmogelijk is het moreel onwenselijke te doen, dan dat onder het mom ’het is zo goed als mensen nadenken’ iedereen mijn dossier kan bekijken.”

Ligt met de keuze ook de verantwoordelijkheid bij het systeem?

„Bij de ontwerpers van het systeem. Zij leggen een infrastructuur aan en net als bij wegen is dat hoe de meeste mensen lopen.”

Dat lijkt me problematisch.

„Is het ook, wie heeft het recht onze moraal te bepalen en het in apparaten en systemen te bakken? Maar ontkennen biedt geen oplossing. Mensen bevinden zich vaak al in omstandigheden die door anderen zijn ontworpen. Werksituaties zijn door de technologie voorgestructureerd. Vroeger was het klassiek medisch-ethische vraagstuk: de dokter staat in de operatiekamer aan het bed van de patiënt en kan kiezen tussen a of b. Wat is goed om te doen? Tegenwoordig draait het om een heel andere vraag. Wie heeft de situatie technologisch zo gemaakt, dat de dokter precies uit a en b kan kiezen? En waarom is er geen c? De ethische keuze van de dokter is voorgestructureerd in de fase dat de operatiekamer werd ontworpen, soms bewust, soms onbewust.”

Een lastige situatie.

„Een situatie waarover je moet nadenken, die je vaak pas opmerkt als het fout gaat. Dan komt de vraag: wie was er verantwoordelijk? Een piloot op drie kilometer hoogte boven de Atlantische Oceaan zit in een cockpit die door anderen is ontworpen. Zij hebben bedacht wat hij wel en niet kan doen. Als hij neerstort, wie draagt dan de verantwoordelijkheid, de piloot of het systeem waar hij op vloog? Daar moet je over na denken. Omdat situaties steeds informatierijker en kritieker worden, zijn er beslissingen die je op basis van je eigen oordeelsvermogen niet meer kunt nemen. Een apparaat kan je dan helpen, maar dat brengt wel een verantwoordingsprobleem met zich mee.”

De oplossing?

„Die vinden is de uitdaging van deze eeuw. Het gebied waar wij niet meer de ethische beslissingen kunnen nemen vanwege de complexiteit, zal groeien. Nanotechnologie, internet, informatiesystemen: techniek neemt een enorme vlucht, maar zijn we wel toegerust om over de gevolgen na te denken?

Daarom hebben we in 2006 met de drie technische universiteiten het Ethiek Centrum opgericht, en doen we mee aan het programma Maatschappelijk Verantwoord Innoveren dat dit voorjaar van start gaat.

Ik pleit voor reflectie aan de tekentafel waarvoor geen ander woord bestaat dan ethisch. Niet moeilijk doen achteraf, maar samen met wetenschappers en technologen denken over onze morele waarden en verantwoordelijkheden, en de vertaling daarvan in het ontwerp van technische artefacten.

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden