Gezichtsherkenning
Klacht over 'discriminerende’ antispieksoftware op Vrije Universiteit
Een studente van de Vrije Universiteit (VU) in Amsterdam heeft vrijdag een klacht ingediend bij het College voor de Rechten van de Mens in Utrecht omdat ze door haar donkere huidskleur grote hinder ondervond van antispieksoftware die tijdens tentamens werd gebruikt.
Volgens het Racism and Technology Center in Amsterdam kan zij bij lange na de enige niet zijn. Duizenden studenten met een donkere huidskleur kunnen er last van hebben gehad en dus heel veel extra stress van hebben ondervonden, vreest deze organisatie.
Tijdens de coronacrisis moesten studenten thuis tentamen doen. Om te voorkomen dat er werd gefraudeerd, werd er antispieksofware toegepast. Die moest onder meer het gezicht van de kandidaten herkennen. Maar bij de studente in kwestie, Robin Pocornie, lukte dat aanvankelijk maar niet. Pas toen ze een extra lamp op haar gezicht richtte, herkende surveillancesoftware Proctorio haar eindelijk. Inmiddels had Pocornie al een hoop extra spanning te verwerken gehad. Ze voelt zich gediscrimineerd. “Juist een systeem dat ervoor moet zorgen dat er niet vals wordt gespeeld, pakt oneerlijk uit”, zegt Hans de Zwart van het Racism and Technology Center over de falende software.
Volgens het Racism and Technology Center is het al langer bekend dat gezichtsherkenning minder goed kan werken bij mensen van kleur en dat dat zeker bij Proctorio het geval is. Toch wordt de software nog altijd gebruikt door meerdere universiteiten, zegt het centrum.
Volgens De Zwart kan controle van de kandidaten ook anders, gewoon via een videoverbinding, door een mens. Die methode is ook wel toegepast. Pocornie, die ontevreden is over hoe de VU haar klacht over het probleem heeft opgepakt, hoopt dat het door de gang naar het College voor de Rechten van de Mens duidelijk wordt dat publieke instellingen de plicht hebben om zich, vóórdat dit soort technologie wordt ingezet, ervan te verzekeren dat het gekozen systeem niet discrimineert.
Lees ook:
Google-ingenieur: onze chatbot is tot leven gekomen
Google heeft een ingenieur op non-actief gezet die beweert dat het chatprogramma LaMDA ‘bewustzijn’ ontwikkeld heeft. Ook als dat niet waar is, roept het ethische vragen op.
