null Beeld Brechtje Rood
Beeld Brechtje Rood

Kunstmatige intelligentie

Ethische commissies zijn in opkomst, want technologie en data zijn niet langer neutraal en waardenvrij

Lodewijk Dros

In steden zijn ethische commissies in opkomst. Vanaf 2018 groeit hun aantal. Ze adviseren de gemeenten over ethische vraagstukken rond data en nieuwe technologie. Naar verwachting komen er snel meer, ook buiten de steden.

Utrecht heeft sinds 2018 ‘Team Uthiek’. In Hilversum heet het ‘Stadspanel Data’, opgezet in 2020. Enschede installeerde in dat jaar een ‘Ethische Commissie’, net als Eindhoven in 2021, samen met Helmond. Zwolle volgde dit jaar. In Amsterdam kreeg een bestaande privacycommissie in 2021 de opdracht zich ook over ethiek te buigen. Breda heeft een commissie in oprichting, net als Den Haag.

“Ik denk dat nu een tiental gemeenten bezig is met zo’n commissie voor data, digitalisering en nieuwe technologie,” zegt David van den Berg, beleidsadviseur van de Vereniging van Nederlandse Gemeenten.

De commissies adviseren gemeenteraden en colleges van burgemeester en wethouders gevraagd en ongevraagd over de morele haken en ogen van kunstmatige intelligentie. De opkomst van deze ethiekcommissies is een verschijnsel van de laatste paar jaar, zegt de Arnhemse filosoof en data-ethicus Piek Visser-Knijff. Zij adviseert gemeenten bij het opzetten ervan. “Ik krijg veel aanvragen. Bij de webinars die ik laatst over data-ethiek heb gegeven waren meer dan 25 gemeenten aanwezig.”

De wet kan het niet bijbenen

Waaraan danken die commissies hun ontstaan? “Nieuwe technologieën roepen vragen op”, zegt filosoof Florentijn van Rootselaar. Hij werkt aan een boek over privacy en digitalisering en is zelf commissielid in Amsterdam. “De ontwikkelingen rond kunstmatige intelligentie gaan razendsnel. De wet kan dat niet bijbenen, dus is er behoefte aan ethische reflectie.”

Piek Visser-Knijff: “Ook als er nieuwe wetgeving komt, zoals de toekomstige Europese verordening over kunstmatige intelligentie, blijft de vraag: is het wel wenselijk? Wat zijn de ethische consequenties? Daar kan een ethische commissie behulpzaam in zijn.”

De oorzaak van de ontluikende populariteit daarvan zoekt Visser in de combinatie van maatschappelijke vraagstukken en technologie. “Die roepen ieder hun eigen vragen op, en als ze bij elkaar komen worden de kwesties echt complex.”

De aanvragen die zij als adviseur krijgt, komen vooral bij gemeenteraden vandaan. “Zij zoeken handvatten voor het bespreken van digitaliseringsvraagstukken.” Visser waarschuwt trouwens dat het opzetten van zo’n commissie niet voldoende is. “De hele organisatie zal zich met ethiek bezig moeten houden.”

Toeslagenaffaire

Hoe nodig dat is bleek in 2017, toen de toeslagenaffaire uitkwam. Bijna 100.000 burgers waren gemangeld in technologie die systemisch racisme bevatte. Het kabinet viel.

Onder andere in Amsterdam dreunt die affaire na. Commissielid Van Rootselaar: “Hier is een sterk besef van de mogelijke dreigingen van kunstmatige intelligentie. Ontwikkelaars van algoritmen komen ons daarom zelf opzoeken. Amsterdam heeft sinds 2020 een algoritmeregister. Inwoners kunnen daarin zien hoe die werken.” Steden als Den Haag en Rotterdam hebben inmiddels ook zo’n register.

Ook in Utrecht heeft de toeslagenaffaire ‘bijgedragen aan de bewustwording rondom het thema digitale ethiek’, zegt Yannick God, strategisch adviseur van de stad die sinds 2018 digitaliseringsprojecten ethisch toetst. “Maar die affaire is niet de oorzaak van het opzetten van Team Uthiek.” In Utrecht stond digitale ethiek al eerder op de agenda.

David van den Berg van de VNG stelt hetzelfde vast voor de andere commissies. Die zijn vrucht van een indalend bewustzijn dat digitalisering een politiek karakter heeft. “Morele vragen rondom bijvoorbeeld medische kwesties zijn al lang vanzelfsprekend, maar dat ook het gebruik van technologie morele vragen oproept, dat besef dringt nu echt door. Techniek is lang als neutraal gezien, cijfers waren waardenvrij en data objectief. Maar ze zijn in wezen politiek en waardengeladen, afhankelijk van keuzes. Een rechtse gemeenteraad hangt bijvoorbeeld sensoren in een slimme lantaarnpaal om veiligheid te bevorderen, een linkse om milieudelicten te signaleren. Het een of ander is niet goed of fout, maar gemeenten moeten wel de waardenafweging maken.”

Platteland

De plaats die de commissies innemen verschilt. In de één zitten externe experts op afstand van de gemeente, een andere is helemaal ingebed in de gemeentelijke organisatie. Zwolle heeft een ‘ethisch officer’ aangewezen als schakel tussen commissie en gemeente. Soms werken de commissies voor de raad, soms voor het college van burgemeester en wethouders. Maar ze hebben één ding gemeen: ze komen uitsluitend in grotere steden voor.

Toch wordt de vraag naar het nut ervan ook buiten de grotere steden gesteld. In Zeeland leidde dat in 2020 tot een afwijzend besluit van Provinciale Staten. Die zag ‘geen meerwaarde’ in een ethische commissie. Uit Friesland komt een ander geluid. Rudolf Simons van DataFryslan, een coöperatie van overheden en kennisinstellingen, voorspelt dat zijn provincie ethiekcommissies krijgt. “Op gemeentelijk niveau of in de provincie, daar zijn we nog niet uit.”

Volgens Simons hebben Friezen een ‘ethiek’. “Wat die ‘data-ethyk yn Fryslân’ is? Nou, kijk naar de gemeenten. Ambtenaren hebben een discretionaire bevoegdheid, een soort speelruimte om zelf beslissingen te nemen. Daarbij zoekt men de grenzen van de regels op om mensen te helpen. Daar moeten we samenhangende morele richtlijnen voor vinden, een Friese moresprudentie, zoals je ook jurisprudentie hebt.”

In Utrecht heeft de gemeente al een eigen ‘waardenmodel’. Dat wordt gehanteerd door het Team Uthiek, aldus Yannick God. Die Utrechtse ethiek is met waarden als ‘de mens is geen nummertje’ trouwens niet exclusief Utrechts, het model is ontleend aan het Rathenau Instituut. God: “Aan die waarden hebben we ‘Gezond stedelijk leven’ toegevoegd.”

Flitsbezorgers

Het begrip ‘ethiek’ raakt alle keuzes in het leven; morele dilemma’s spelen overal, zegt Florentijn van Rootselaar. “Veel terreinen van gemeentelijke dienstverlening zijn niet direct technologisch. Een ethische reflectie daarop is wel waardevol. Onze commissie houdt zich alleen met data-ethiek bezig, maar je zou er een apart ethisch adviesorgaan voor in het leven kunnen roepen.”

Volgens Van den Berg van de VNG zou je deze commissies misschien beter ‘ethische commissie voor technologie’ kunnen noemen. Niettemin is hun werkterrein breed, zegt data-ethicus Visser. “Bijna overal speelt de inzet van technologie een rol. Je hebt de publieke dienstverlening: het online aanvragen van vergunningen, WhatsAappcontact met de gemeente, maar ook schuldhulpverlening. En we zitten met de vraag of en wanneer je drones of bodycams in mag zetten, wat de voor- en nadelen van vuilnisbakken met sensoren zijn, en van slimme lantaarnpalen.”

“Dan zijn er de platformdiensten die de gemeente niet zelf in het leven heeft geroepen, maar waar ze wel tegenaan loopt, zoals flitsbezorgers, Airbnb en deelsteps. Ten slotte heb je het persoonlijk gebruik van digitale middelen: met je smartphone een losliggende stoeptegel melden is makkelijk, maar is boa’s filmen een goed idee, en wat doen we met de camera’s van de Tesla in de straat?”

Naar vijftig commissies

VNG-directeur Leonard Geluk benadrukte dit voorjaar in een brief aan alle leden het belang van digitale ethiek: het diende ‘Chefsache’ te worden. Toch is het aantal gemeentelijke ethische commissies nog beperkt. Maar dat zal toenemen, verwacht Piek Visser-Knijff. “Ik merk dat daar behoefte aan is. Ik denk ook dat daarbij de krachten zullen worden gebundeld, zoals Eindhoven dat doet met Brainport Smart District in Helmond.” Ook in regio’s zonder grote steden, zoals Zeeland en Friesland, ligt het samen opzetten van ethische commissies volgens Visser voor de hand.

David van den Berg van de VNG verwacht dat dat ook gaat gebeuren. “We moeten niet toe naar 350 commissies, voor elke gemeente één. Maar het zou mooi zijn als we er over vijf jaar in totaal vijftig hebben, in grote steden, in regio’s, en een bij de VNG.”

Vier actuele kwesties

Voor sommige zaken geldt: het mag voor de wet, dus het kan. Maar willen we het ook, kan het moreel wel door de beugel? Over die vraag buigen de ethische commissies van gemeenten zich. Bijvoorbeeld in deze vier actuele kwesties.

Utrecht: bodycam

Boa’s kunnen een cameraatje op hun uniform bevestigen, een bodycam. Maar waarom eigenlijk? Ter bevordering van de veiligheid van de ambtenaar? Hoe zit het met de veiligheid van de verdachte? En wat te doen met de privacy van een inwoner die net toevallig langsloopt en in beeld komt? Mag je dit soort data openbaar maken?

Hilversum: druktemeter

Mag de gemeente de ‘druktemeter’ waarmee men tijdens de coronacrisis de drukte in het centrum in de gaten hield en de anderhalvemeterregel controleerde, nu benutten voor het monitoren van de loopstromen? Mag je een bestaande techniek voor een ander doel gebruiken dan waarvoor ze werd geïnstalleerd, of moeten de sensoren nu weg?

Amsterdam: vakantieverhuur

Op het stadhuis wacht een enorme stapel meldingen van illegale vakantieverhuur op verwerking, meer dan handhavingsambtenaren aankunnen. Een algoritme moet selecteren op welke melding ze afgaan. Hoe voorkom je dat zo’n algoritme mensen met een uitkering en een ziekte eruit worden gepikt, of met een niet-Nederlandse achtergrond? En wie - of wat - beslist er uiteindelijk?

Zwolle: Eyebikes

Met camera’s op hun fiets detecteren burgers zwerfafval en parkeerdrukte. Deze Eyebikes moeten het woongeluk vergroten, maar wat doen ze met privacy van een argeloze passant die in beeld komt? Wordt de Zwollenaar een verklikker of draagt ze positief bij aan het gemeentebeleid? Hoe beïnvloedt de Eyebike het werk van schouwambtenaren?

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden