Black Lives Matter

Amazon levert Amerikaanse politie voorlopig geen software voor gezichtsherkenning

Hulpsheriff Jeff Talbot (Washington County) laat zien hoe zijn bureau gezichtsherkenning gebruikt. De foto is vorig jaar februari genomen.Beeld AP

Software voor gezichtsherkenning zit er vaak naast bij vrouwen en minderheden. Zelfs techbedrijven bekritiseren nu het gebruik ervan door de Amerikaanse politie.

Privacy-activisten wisten niet of ze verheugd of argwanend moesten reageren op het nieuws dat Amazon een jaar lang geen software voor gezichtsherkenning zal verkopen aan Amerikaanse politiekorpsen. In een zeer korte verklaring lichtte het bedrijf het besluit toe: het hoopt dat de overheid het jaar benut om regels op te stellen voor de omstreden technologie.

Maar er blijven nog genoeg vragen over. Stopt Amazon nu ook met het leveren van de technologie aan landelijke opsporingsdiensten? En hoe zit het met de lobby die het bedrijf de afgelopen jaren voerde om de resultaten te betwisten van onderzoek dat aantoonde dat gezichtsherkenningssoftware discriminerend uitpakt voor vrouwen en minderheden?

Andere techbedrijven hadden die kritiek wel serieus opgepakt. Alphabet, het moederbedrijf van Google, pleitte er eerder dit jaar voor om het gebruik van gezichtsherkenning een paar jaar stop te zetten. IBM maakte deze week bekend helemaal te stoppen met gezichtsherkenning. Volgens topman Arvind Krishna schendt de technologie ‘fundamentele mensenrechten en vrijheden’.

Amazon en IBM zijn zeker niet de belangrijkste leveranciers

Joy Buolamwini, oprichter van de actiegroep Algorithmic Justice League, reageerde behoedzaam op zulke intiatieven. “We kunnen niet vertrouwen op zelfregulering van bedrijven”, liet ze weten op Twitter. Als onderzoeker van het MIT Media Lab was ze een van de auteurs van een invloedrijk paper uit 2018 dat liet zien hoe de meest gebruikte systemen voor gezichtsherkenning er steevast veel vaker naast zitten bij vrouwen en bij mensen met een getinte huid. Witte mannen worden meestal goed herkend, maar vrouwen werden door Amazon in 19 procent van de gevallen zelfs als mannen geclassificeerd, en bij vrouwen met een donkere huid liep dat percentage nog op tot 31 procent.

Toch is zulke haperende software de afgelopen jaren op grote schaal ingezet bij politiewerk in de VS – en ver daarbuiten. De voorzichtige kentering bij sommige bedrijven betekent niet dat de invloed van die software minder wordt. Integendeel: de beslissingen van IBM en Amazon “hebben weinig invloed op de mate waarin de politie gezichtsherkenning kan gebruiken”, zo reageerde privacy-onderzoeker Clare Garvie van Georgetown University. Er zijn meer dan veertig bedrijven die zulke software aan de politie leveren, en IBM en Amazon zijn zeker niet de belangrijkste leveranciers.

Een bij het grote publiek minder bekend bedrijf als Clearview AI is veel invloedrijker, en dat liet weten geen enkele reden te zien om te stoppen met gezichtsherkenning.

Een droom voor politie-surveillance

De massademonstraties van de afgelopen weken zijn dus juist  een droom voor politie-surveillance, vreest de Algorithmic Justice League. Honderdduizenden demonstranten zijn op camera vastgelegd. Vaak door bodycams, die ooit juist bedoeld waren om geweld door politie-agenten te stoppen, maar die als onbedoeld effect hebben dat er heel veel analyseerbaar beeldmateriaal in bezit van de politie komt. En “aangezien veel van deze systemen een bewezen afwijking hebben bij mensen met een donkere huid, valt de last hiervan weer onevenredig op zwarte mensen”.

Dus moeten overheden besluiten om de technologie niet meer in te zetten, vindt Buolamwini. Daar begint voorzichtig wel iets te schuiven. San Francisco was vorig jaar de eerste grote Amerikaanse stad die de technologie in de ban deed. Een paar andere steden zijn inmiddels gevolgd.

Lees ook:

In de VS gaat het nu over hervormen, budget weghalen, of zelfs het afschaffen van de politie

Minneapolis heeft een radicaal voornemen: de politie ontbinden. Welke concrete voorstellen gaan er schuil achter de aanzwellende oproep om de Amerikaanse politie terug te schalen, of zelfs af te schaffen?

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden