WetenschapTechnologie en moraliteit

Ethicus David Bamps: ‘Misschien willen we helemaal niet weten hoe we goed moeten leven’

Beeld fadi nadrous

Kunstmatige intelligentie kan de mens helpen zijn natuur te doorgronden en zijn moraal te optimaliseren. ‘Zo goed doen we het niet. Willen we dat zien?’

“Onze samenleving is als een auto zonder dashboard. We kunnen niet zien wat die auto precies doet en toch rijden we met hoge snelheid voort. Is het niet tijd dat we instrumenten krijgen die ons vertellen wat er gebeurt onder de motorkap?”

Die vraag stelt de 42-jarige Vlaming David Bamps en hij beantwoordt haar in de filosofisch-ethische studie waarop hij ­komende woensdag promoveert aan de Universiteit Maastricht.

De morele kompassen die de mens had, zijn in de technologiegedreven maatschappij verstoord of onklaar gemaakt. De mens doolt rond in wat Hans Boutellier, bestuurskundige aan de Vrije Universiteit, de improvisatiemaatschappij doopte. De analyse van Boutellier was een vertrekpunt voor het onderzoek van David Bamps. Want de improvisatiemaatschappij is een rake diagnose, maar biedt nog geen remedie.

Technologie kan je laten zien dat je het beste voor hebt met de planeet, maar dat je daar niet naar handelt

Kan technologie, die het probleem heeft veroorzaakt, niet ook de oplossing zijn? En zo ja, hoe dan?, vroeg Bamps zich af. “We zitten in een ontwikkeling die al decennia geleden begonnen is, met de komst van de eerste snelheidsbegrenzer, bij wijze van spreken. Technologie bepaalt mede de maat. De moraliteit is in de materie gaan zitten. Ik ben die lijnen gaan doortrekken in een gedachtenexperiment. Stel: je hebt mooie, groene ideeën. En stel dat je daar ook naar wilt leven. Dan kan technologie je helpen, het kan je laten zien dat je misschien het beste voor hebt met de planeet, maar dat je daar niet naar handelt.”

“De mens heeft altijd een groot idee gehad van zichzelf en ziet zichzelf als de superieure beheerder van de wereld. Maar zo geweldig doet hij niet. Willen we een dashboard hebben dat dat laat zien, of blijven we varen op onze eigen, zo geweldige kennis en kunde?”

De coronacrisis laat die zwakke kant van de mens weer eens zien, zegt Bamps: “Anderhalve meter afstand houden is toch een simpele regel? En zelfs die kunnen we niet goed uitvoeren. Stel dat anderhalve meter werkelijk de grens zou zijn tussen leven en dood, zouden we dan instrumenten moeten bouwen om die afstand te garanderen en ons voor de dood te behoeden?”

David Bamps

Het barst van de moraliteit, alleen zit die niet meer exclusief in mensen

Dergelijke instrumenten zijn er al; auto’s die niet starten als je de gordel niet om hebt of boordcomputers die niet toestaan dat de piloot een vliegtuig ter aarde laat vallen. Wie klaagt over het moreel verval van de samenleving, moet eens goed om zich heen kijken, zegt Bamps. Het barst van de moraliteit, alleen zit die niet meer exclusief in mensen, maar ook in dingen, apparaten.

Het is een gematerialiseerde moraliteit. Maar die kan, meent Bamps, basis zijn voor een nieuw moreel kader dat een eind maakt aan de improvisatiemaatschappij, en het begin is van wat hij de dashboardsamenleving noemt.

In zijn proefschrift wijst Bamps op MindSphere, een door Siemens ontwikkelde technologie waarmee complete bedrijven of steden kunnen worden aangestuurd. MindSphere is mogelijk nu we van een internet van mensen naar een internet van dingen zijn gegaan, en mensen niet alleen informatie uitwisselen met elkaar maar ook met tal van apparaten en objecten.

Een technologie als MindSphere kan de opmaat zijn voor een nieuw moreel kompas, betoogt Bamps: “Neem een studentenhuis in het jaar 2029. De studenten zijn allemaal lid van de groene beweging en willen graag een zo klein mogelijk ecologische voetafdruk nalaten. De technologie van Siemens kan perfect in kaart brengen wie wat doet. Hoe lang staat Ingrid onder de douche? En hoeveel voedsel verspilt Peter met zijn feesten op vrijdagavond? De normen en waarden die de studenten zeggen te delen, kunnen worden getoetst. Dat kan confronterend zijn. Misschien blijken Ingrid en Peter het veel slechter te doen dan hun huisgenoten, en wel de normen en waarden te delen maar daar niet naar te leven.”

Terwijl het betoog van Bamps zich zo ontvouwt, bekruipt je een beklemmend gevoel. Het begint ongezellig te worden in dat studentenhuis. Wil je daar wonen, wil je zo’n samenleving?

Dat gevoel bekruipt niet alleen de lezer van Bamps’ proefschrift, het kwam ook boven in een van de experimenten die hij daarvoor deed. Proefpersonen waren studenten van University College Leuven Limburg, waar Bamps lesgeeft. Zij kregen de opdracht om zo’n studentenhuis van de toekomst in te richten. Het huis zou worden uitgerust met meters en sensoren die iedere bewoner toonden hoe zijn gedrag zich verhield tot de collectieve moraal. En bij een al te grote afwijking kreeg de bewoner bezoek van een inspecteur.

Dit allemaal niet in het echt, maar op de tekentafel. Kern van het experiment was dat de studenten moesten beslissen welke leefregels er zouden gelden in het huis, wat er allemaal gemonitord werd én waar, en welke gedragsinformatie werd gedeeld. Bij hun onderhandelingen daarover werden ze geobserveerd door onderzoekers.

Mensen komen gemakkelijker tot een collectieve moraal op basis van vertrouwen dan op basis van wetenschap

Uit het experiment bleek om te beginnen dat naarmate er meer meetpunten op de lijst kwamen, en dus meer informatie zou worden gedeeld, de controverse groeide over de af te spreken leefregels. Bamps: “Dat laat zien dat mensen gemakkelijker tot een collectieve moraal komen op basis van vertrouwen dan op basis van wetenschap.”

Maar bovendien bleek de bereidheid van de proefpersonen om zich te houden aan afgesproken leefregels drastisch te dalen als hun gedrag voortdurend gemeten en getoetst zou worden.

Dat is de paradox van de moraliteit, zegt Bamps. “Die maakt dat we misschien niet wíllen weten hoe we goed moeten leven. Dat kan ertoe leiden dat we het morele kompas gaan vervloeken, niet omdat het niet helpt om de menselijke beperking te overstijgen, maar omdat het de menselijke beperking overstijgt op een manier die de mens verscheurd achterlaat, in het volle bewustzijn van het eigen, onvermijdelijke kwaad.”

Het hele idee achter de ontwikkeling van een nieuw moreel kompas was nu juist het gevoel van veiligheid en controle nieuw leven in te blazen: “De dashboardsamenleving is gebouwd op de overtuiging dat technologie kan helpen onze eigen natuur te begrijpen. Niet eerder hadden we de mogelijkheid om het hele speelveld van menselijke gedragingen te overzien en in de diepste krochten van zijn denken door te dringen.”

Technologie, en met name kunstmatige intelligentie, kan de menselijke moraal zichtbaar maken en naar een hoger niveau tillen. “Met data en krachtige computers kunnen we misschien dingen over onszelf en over de werking van de maatschappij ontdekken die voorheen onzichtbaar waren. Ze gingen letterlijk ons begrip te boven. Zijn onze maatschappelijke systemen werkelijk in overeenstemming met de morele beginselen van gelijkheid, waardigheid en vrijheid waarmee ze ooit ridderlijk zijn gesticht? Als we daar inzicht in krijgen, leggen we de basis voor een toekomstige moraal.”

Wie is David Bamps?

David Bamps is in 1978 geboren in Tongeren, in Belgisch Limburg. Toen hij 2,5 jaar was, begon hij met musiceren. En toen hij op vijftienjarige leeftijd een contract kon krijgen bij een instrumentenbouwer, zag hij een toekomst in de muziek voor zich.

Het leek hem toch verstandiger om eerst een gedegen opleiding af te ronden. Bamps studeerde ­wijsbegeerte, psychologie en rechten. Hij bleef actief als musicus en componist, heeft een eigen bedrijf dat wetenschappers adviseert, een stichting om jongeren te helpen, en is verbonden aan de KU Leuven, University College Leuven-Limburg en Universiteit Maastricht.

Van het proefschrift ‘De Dashboardsamenleving’ verschijnt begin volgend jaar een handelseditie bij uitgeverij Boom. Delen zijn in België door CampusLannoo gepubliceerd als ‘Puzzelstukken voor een ­nieuwe moraal: over sociale ­ordening in de toekomst’.

Het is de ‘fyborgisatie’ van het moreel kompas, de morele vereniging van mensen en machine

Die moraal wordt dan niet alleen gevormd in het brein, maar in het samenspel van mens en technologie. Het is de ‘fyborgisatie’ van het moreel kompas, de morele vereniging van mens en machine tot een functionele cyborg, gebouwd op de normen en waarden die mensen belangrijk vinden en gevoed met de data over zijn handelen.

Als mens en machine samen die nieuwe moraal hebben gebouwd, is het zaak daarnaar te handelen. Ethiek dus, en die krijgt in de dashboardsamenleving een heel ander karakter. De ethiek wordt empirisch, het onderscheid tussen goed en kwaad wordt niet meer gemaakt door overtuigingen, maar door data.

Bamps: “Dat klinkt misschien afschrikwekkend, maar de basis ligt in de waarden­oriëntatie waarover mensen met elkaar moeten praten. Mensen moeten duidelijk maken welke normen en waarden ze nastreven. En dan moeten ze doen wat ze zeggen, anders hol je de moraal uit.”

“De aanname is dat we de nieuwe moraal kunnen formaliseren in transparante, valide en betrouwbare spelregels. Als die eenmaal zijn geformaliseerd, dan is de ethiek die daarbij hoort een feitensysteem: een handeling is juist als de uitkomst van een data-analyse strookt met de geformaliseerde spelregels.”

De overgang naar een empirische ethiek is nodig om tot de dashboardsamenleving te komen, zegt Bamps: “Om de complexiteit van de sociale werkelijkheid het hoofd te bieden, moet de mens gebruikmaken van kunstmatige intelligentie. Dan pas ontstaat ruimte voor het oplossen van de normatieve problemen waarmee we kampen.”

Het klinkt meedogenloos. En dat kan het ook worden, zegt Bamps, als er geen ruimte blijft voor menselijk falen. Felix culpa, zei het Latijn al: het geluk is met de schuld. Zondigen, fouten maken, vergeven en vergeten zijn van levensbelang voor menselijk geluk. “Van fouten kunnen we leren, die brengen ons op een hoger niveau. Dat mag technologie nooit uithollen.”

Als we met kunstmatige intelligentie tot een morele perfectie zouden komen, doen we meer kwaad dan goed. “Er moet aan ieder mens ruimte worden gelaten fouten te maken. Guitenstreken en vormen van onaangepast gedrag horen bij het menselijke karakter van een samenleving. In een dashboardsamenleving kan de inzet van technologie zorgen voor een optimalisatie van de menselijkheid. Dat is niet hetzelfde als alle kwaad uit de wereld bannen. Dat zou de samenleving ontmenselijken.”

Lees ook:

Laat kunstmatige intelligentie vooral haar eigen gang gaan

Mensen eisen voorspelbaarheid van kunstmatige intelligentie, maar die presteert het best als ze vrij is om te leren

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden