Algoritmes

Bedrijven moeten hun algoritmes wantrouwen en onderzoeken, anders kan het mis gaan

Als een verzekeraar de energietransitie wil ondersteunen, waarom zou hij dan een hogere premie vragen voor een gebouw met zonnepanelen? Veel bedrijven gebruiken algoritmes om risico's te berekenen. Beeld BELGA
Als een verzekeraar de energietransitie wil ondersteunen, waarom zou hij dan een hogere premie vragen voor een gebouw met zonnepanelen? Veel bedrijven gebruiken algoritmes om risico's te berekenen.Beeld BELGA

Organisaties hebben te weinig oog voor hun eigen data-analyses. Daardoor kunnen ze blunders begaan, zegt het Impact Centre Erasmus.

Net als overheden moeten bedrijven beter gaan begrijpen hoe ze data verwerken en op welke manier dat mis kan gaan. In de praktijk hebben organisaties te weinig oog voor de ethische kant van data-analyse, blijkt vandaag uit onderzoek van Impact Centre Erasmus.

“Weinig managers begrijpen hoe een algoritme werkt en hoe data correct gekoppeld moeten worden. Organisaties die dit niet toetsen, zullen blunders begaan”, zegt Jacqueline Scheidsbach, directeur van dit kennis- en onderzoeksinstituut van de Erasmus Universiteit Rotterdam. Ze vindt dat managers die zich bezighouden met maatschappelijk verantwoord ondernemen (mvo) meer aandacht voor dit thema moeten hebben.

Voor de publicatie Verpletterd door algoritmes die vandaag verschijnt, hebben ruim honderd mvo-professionals een enquête ingevuld over het datagebruik in hun organisatie. Ze werken vooral in het binnenlands bestuur, de zakelijke dienstverlening en de industrie. Wat blijkt is dat 25 van de 100 organisaties een visie hebben op ‘ethisch datamanagement’. Van de respondenten zegt 32 procent niet te weten of hun organisatie gebruikmaakt van algoritmes of profilering.

Inhaalslag

“Er is dus een enorme inhaalslag te maken”, zegt Scheidsbach. “Het belang en gebruik van data neemt exponentieel toe. Dat maar een kwart van de organisaties nadenkt over ethisch datamanagement, is zorgelijk. Het is nog grotendeels onontgonnen gebied.”

Algoritmes zijn computerinstructies die een taak verrichten. In de praktijk kunnen ze een eigen leven gaan leiden en bestaande machtsverhoudingen versterken. Algoritmes pakken bijvoorbeeld nadelig uit voor vrouwen als de databestanden die ze analyseren vooral over mannen gaan, iets wat in de gezondheidszorg speelt, maar ook bij productontwikkeling. Minderheden zijn de dupe van etnisch profileren als algoritmes slecht gecontroleerd worden en hun ingebouwde vooroordelen versterken. In de kindertoeslagaffaire ging het volledig mis bij de Belastingdienst.

Een bedrijf kan meer ruimte nemen dan de overheid, zegt Scheidsbach. “Een verzekeraar mag naar de postcode kijken bij het bepalen van de premie. Banken gebruiken algoritmes om risico’s in kaart te brengen. Maar er kunnen ongewenste effecten optreden, zoals het versterken van kansongelijkheid. Een voorbeeld zie je in de prostitutie. Legale sekswerkers krijgen een verhoogd risicoprofiel, waardoor ze moeilijker aan een eenvoudige bankrekening komen.”

Impact Centre Erasmus wil niet de ethische grenzen bepalen voor anderen, zegt Scheidsbach. “Welke normen bedrijven gebruiken is aan hen. Maar als een bedrijf hardop zegt dat het inclusiviteit belangrijk vindt, dan zal het ook de eigen data-analyses onder de loep moeten nemen.”

Voorkeur aan mannen

Bijvoorbeeld op de afdeling personeelszaken. Webwinkel Amazon gebruikte een computerprogramma dat cv’s analyseerde. Het programma bleek bij technische functies de voorkeur te geven aan mannen. Scheidsbach: “En een verzekeraar die het belang van de energietransitie onderschrijft, moet zich afvragen of hij wel een hogere premie wil rekenen bij zonnepanelen op bedrijfspanden. Goede bedoelingen en het beleid moeten gelijk op gaan.”

Een algoritme moet transparant zijn en geen ‘zwarte doos’ waarvan de uitkomst onverklaarbaar is, zegt deskundige Willem Peter de Ridder in Verpletterd door algoritmes, een uitgave van ‘P+ People Planet Profit’. De Ridder: “We moeten het proces zo inrichten dat het systeem alleen een advies geeft. De mens beoordeelt dat advies en neemt de finale beslissing.”

Lees ook:

Een algoritme is niet neutraal, ook een overheidsalgoritme niet

Dat de overheid volop gebruikmaakt van algoritmes is bekend. Maar deugen de data wel die daarvoor worden gebruikt?

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden