Uw profiel is aangemaakt

U heeft een e-mail ontvangen met een activatielink. Vergeet niet binnen 24 uur uw profiel te activeren. Veel leesplezier!

Algoritmes kunnen crimineel gedrag voorspellen, maar zorgen ook voor nieuwe problemen

Home

Kristel van Teeffelen

De politie bekijkt gegevens die door camera's en sensoren in Roermond zijn verzameld. © Merlin Daleman

Hoe goed kunnen algoritmes crimineel gedrag voorspellen? Er kleven ook bezwaren aan 'voorspellend politiewerk'.

De politie die meer criminaliteit weet te voorkomen. Weinig mensen zullen daar op tegen zijn. Maar over de manier waarop valt wel te discussiëren. De politie in Limburg vertrouwt op de rekenkracht van computers die door een berg data te analyseren rondreizende dieven aanwijzen. Terwijl deskundigen ook een hoop beperkingen van dat zogeheten 'voorspellende politiewerk' zien.

Lees verder na de advertentie

Zo heeft een algoritme het lang niet altijd bij het juiste eind, zegt Selmar Smit van het onderzoeksinstituut TNO. "Eigenlijk is het niet meer dan een kansberekening: hoe waarschijnlijk is het dat het hier om een verdacht persoon gaat? En een kansberekening zit er weleens naast."

Elke burger wordt als potentieel risico gezien. Dat is een wezenlijk verschil met het traditionele politiewerk

Marc Schuilenburg, filosoof en criminoloog

Hoeveel personen als gevolg daarvan onterecht als verdacht worden aangemerkt, hangt af van hoe 'strak' het algoritme wordt afgesteld. Formuleer je heel specifieke kenmerken, dan worden weinig mensen eruit gefilterd. Dat verkleint de kans op fouten, maar vergroot de kans dat een hoop criminelen over het hoofd worden gezien. Hanteer je ruimere kenmerken, dan pak je mogelijk meer boeven, maar wijst de computer ook meer onschuldigen aan.

De politie zegt fouten te ondervangen door agenten uiteindelijk zelf de afweging te laten maken of ze het advies van de computer opvolgen. Zoals in Roermond, waar de politie met camera's langs de snelwegen en andere sensoren rondreizende dieven probeert te onderscheppen voordat ze toeslaan in het outletcentrum in de Limburgse stad. Agenten die een melding krijgen, gaan er heus niet direct met groot geschut op af, aldus de politie. Ze kijken eerst of dat wat de computer concludeert terecht is.

Steekproef

Het is belangrijk om maatregelen te nemen om agenten scherp te houden, stelt Smit. "Bijvoorbeeld door er af en toe een willekeurige steekproef tussendoor te gooien, zonder dat de agent op straat dat weet."

Wat er kan gebeuren als de politie te veel op de computer vertrouwt, bleek uit een eerder project dat gericht was op het onderscheppen van drugskoeriers. Agenten waren gewend dat het systeem het altijd bij het goede eind had. Tot een oude vrouw met groot vertoon werd klemgereden.

Marc Schuilenburg, filosoof en criminoloog aan de Vrije Universiteit in Amsterdam, heeft meer bezwaren tegen dat voorspellende politiewerk. Iedereen die straks richting het outletcentrum in Roermond rijdt zal door het algoritme worden beoordeeld.

"Dat betekent dat elke burger als potentieel risico wordt gezien. Dat is een wezenlijk verschil met het traditionele politiewerk, waarbij agenten afgaan op een melding over een verdachte situatie of handelen op basis van hun eigen observatie."

Risico

De ene groep zal bovendien vaker worden aangewezen als verdacht dan de andere, zegt Schuilenburg. "In Roermond zal dat gaan om Oost-Europeanen, omdat veel rondreizende dieven daar vandaan komen. Maar dat betekent nog niet dat elke bezoeker uit het voormalige Oostblok een risico vormt. Toch zullen ze meer kans maken staande te worden gehouden, terwijl ze helemaal geen misdrijf hebben begaan."

Algoritmes zeggen alleen iets over de groep die wordt gepakt, zegt ook Smit. Want met die kenmerken wordt de computer gevoed. Zo kan een focus op één bepaalde groep ontstaan. "De vraag is of je het acceptabel vindt dat een Oost-Europees gezin telkens wordt aangesproken als ze komen winkelen omdat daarmee de veiligheid zou worden vergroot."

Schuilenburg pleit voor meer toezicht op de algoritmes. "Bij andere opsporingsmethoden, zoals een observatie, moet de rechter-commissaris vooraf toestemming geven. Dat geldt niet voor dit voorspellende werk, waarvoor de politie wettelijke bevoegdheid heeft. Er is hooguit achteraf een toetsing door de rechter, als een verdachte voor moet komen. Dat is veel te beperkt."

Lees ook:

Een verantwoord gebruik van kunstmatige intelligentie vraagt niet alleen om transparantie

Transparantie is een belangrijke eerste stap voor een verantwoorde maatschappelijke toepassing van AI, maar is op zichzelf niet voldoende, vinden Cathy O’Neil (wiskundige) en Bart Schermer (universitair hoofddocent in Leiden).

Met camera's en sensors is een winkeldief straks op grote afstand te herkennen

Zakkenrollerij en winkeldiefstal zijn een hardnekkig probleem in het outletcentrum in Roermond. De politie hoopt dat met sensoren en computerkracht de kop in te drukken.

Wees op je hoede, want ook algoritmen maken fouten

Zelflerende algoritmen hebben niet de wijsheid in pacht, betoogt senior-onderzoeker Marc Steen van TNO. Kennis van onderliggende processen is cruciaal om te begrijpen waar het misgaat.

Deel dit artikel

Elke burger wordt als potentieel risico gezien. Dat is een wezenlijk verschil met het traditionele politiewerk

Marc Schuilenburg, filosoof en criminoloog