null Beeld

ColumnIlyaz Nasrulla

We leven helaas nog steeds in een ­wereld waarin huidskleur een probleem is

Papa, mag ik die huidskleur?’ Verbaasd keek ik op van de kleurplaat die ik aan het inkleuren was, om mijn dochter te zien wijzen naar een stift met een perzikachtige kleur. Of misschien had die meer de kleur van een abrikoos. Afijn, de stift had in ieder geval niet háár huidskleur. Mijn dochter mag dan wel twee tinten lichter van kleur zijn dan ik, toch is zij overduidelijk bruin.

Ik moest direct terugdenken aan mijn eigen basisschooltijd. Toen verbaasde ik me al als mijn klas­genootjes tijdens het tekenen over huidskleur ­praatten. Daarmee bedoelden zij altijd de kleur van hún huid, nooit de mijne. Uit nieuwsgierigheid vroeg ik ze weleens welke kleur dat potlood met mijn huidskleur dan had. Dat was gewoon bruin, volgens hen.

Mijn dochter stelde ik een andere vraag. Waarom noemde zij de perzik/abrikoostint van die stift eigenlijk ‘huidskleur’? Daar had ze geen antwoord op. Of misschien heeft zij – met haar vijf levensjaren – de woorden nog niet om het concept bias uit te leggen.

We weten dit al jaren, toch blijft het misgaan

Dat Engelse woord heeft geen goede Nederlandse vertaling. Meestal wordt ‘vooringenomenheid’ gebruikt, maar dat woord komt met een negatieve lading. Vooringenomenheid heeft altijd de betekenis van bevooroordeeld zijn, terwijl bias in dit geval een puur wetenschappelijke betekenis heeft: één groep is in de statistieken oververtegenwoordigd ten opzichte van andere groepen. Mijn dochter bijvoorbeeld heeft voornamelijk vriendjes en klasgenootjes met een witte huid. En zij heeft hun gebruik van het woord huidskleur overgenomen.

Deze huidskleur-bias speelt niet alleen een rol in de ontwikkeling van het wereldbeeld van mijn dochter, maar heeft ook invloed op het wereldbeeld van kunstmatig intelligente systemen. Zo is gezichtsherkenningstechnologie nog altijd slechter in het correct identificeren van gekleurde ­mensen dan witte mensen. Dat komt voor een belangrijk deel doordat deze systemen vooral getraind worden op foto’s en video’s van witte mensen.

En ook al weten we dit al jaren, toch blijft het misgaan. Eerder deze maand nog werd Facebook gedwongen om excuses te maken. Facebookgebruikers die een video met daarin zwarte mannen zagen, kregen van ­Facebooks automatische aanbevelingssysteem de vraag of zij ‘video’s over primaten wilden blijven zien’. Een productmanager bij Facebook noemde de fout onacceptabel en zei dat het bedrijf de hoofdoorzaak aan het ­onderzoeken is.

Google ziet zwarte mensen als apen, maar mag dat niet zeggen

Ik verwacht hier niet veel van. In 2015 had Google hetzelfde probleem. De app Google Photos labelde foto’s van zwarte mensen automatisch als ‘gorilla’s’. Google’s oplossing? De woorden gorilla, chimpansee en aap gingen op een lijst van verboden woorden die de app niet meer als labels mocht gebruiken. Waar het dus op neerkomt is dat deze Google-technologie zwarte ­mensen wel als apen ziet, maar dat niet mag zeggen.

“Wij geven vorm aan onze gebouwen, waarna onze gebouwen vormgeven aan ons”, zei Winston Churchill in 1943. Datzelfde kunnen we over technologie zeggen. Met ons wereldbeeld vormen wij de technologie van vandaag, die daarna ons wereldbeeld vormt.

Daarom is het belangrijk om de pijnlijke fouten in de technologie van Facebook en Google te verbeteren. Daarvoor is dus meer nodig dan gesleutel aan gebrekkige technologie. Het is noodzakelijk dat ons wereldbeeld verandert. We leven helaas nog steeds in een ­wereld waarin huidskleur een probleem is.

Digitaal strateeg Ilyaz Nasrullah schrijft om de week op de opiniepagina een column over digitalisering. Lees ze hier terug.

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden