Uw profiel is aangemaakt

U heeft een e-mail ontvangen met een activatielink. Vergeet niet binnen 24 uur uw profiel te activeren. Veel leesplezier!

Moet Facebook wel de psychiater uithangen?

Opinie

Jamal Ouariachi

© Maartje Geels
COLUMN

Alweer jaren geleden zegde ik mijn Facebook-account op. Het medium begon me te vervelen.

Daarmee is het niet geheel uit mijn leven verdwenen: techgigant Facebook is vaak genoeg in het nieuws, en heel wat vrienden, kennissen en familieleden brengen nog dagelijks tijd op het medium door. Dus of ik nu een account heb of niet, ik moet me er op een of andere manier toe verhouden.

Lees verder na de advertentie

The New York Times bracht gisteren een reportage over het steeds uitgebreidere suïcidepreventieprogramma van Facebook. Vooral sinds het bedrijf te maken kreeg met gebruikers die via een livestream hun zelfdoding de wereld in zonden, wordt er gewerkt aan manieren om vroegtijdig in te grijpen – niet in de virtuele, maar in de echte wereld.

Hoe gaat dat? Een gebruiker schrijft een verontrustend bericht. Een algoritme detecteert daarin een risico. Een levende Facebook-werknemer beoordeelt de risicomelding en trekt eventueel aan de bel bij de hulpdiensten. Dat kan uiteindelijk zelfs leiden tot gedwongen opname van de suïcidepoger.

Heeft een algoritme een beroepsgeheim?

Het systeem is inmiddels wereldwijd operationeel, behalve in de EU, vanwege strenge privacywetgeving. Maar daarmee zijn we niet gevrijwaard van de vragen die Facebook hiermee oproept. Er zitten mazen in de wetgeving waardoor het niet onwaarschijnlijk is dat zo’n preventieprogramma op den duur ook hier in werking treedt. En Facebook is niet het enige techbedrijf dat zich met dit soort zaken bezighoudt.

Ongediplomeerd

In principe is daar ook niets verkeerds aan. Elk systeem dat bijdraagt aan het terugdringen van suïcidecijfers is te prijzen. Maar Facebook is een bedrijf. Met bedrijfsgeheimen. Hoewel het medium een en ander onthuld heeft over de werking van het algoritme, weten we verder weinig van hun exacte methodiek, de psychologische theorievorming waarop het zich baseert, welke ethische codes gehanteerd worden. En hoe zit het met de verslaglegging? Geen data­kruimel gaat verloren in Facebookland, maar hoort psychiatrische informatie niet thuis in een goed versleuteld medisch dossier? Heeft een algoritme een beroepsgeheim? Ook vindt er geen wetenschappelijke evaluatie plaats die kan uitwijzen of het programma wel of niet effectief is – misschien zelfs negatieve effecten heeft.

Nog wat breder gesteld: is het wenselijk dat een internetplatform dat ooit slechts ter vermaak bedoeld was, nu ongediplomeerd het terrein van de psychiatrie betreedt?

Ik wil niet de sikkeneur uithangen die bij elke technologische ontwikkeling moord en brand gilt, integendeel. Als sociale media kunnen bijdragen aan suïcidepreventie, dan maken ze wat mij betreft hun sociale ambities pas écht waar. Maar als er in de EU niet nu al over controlemechanismen wordt nagedacht door wetgevers en deskundigen, hollen we straks weer achter de feiten aan van een bedrijf dat al vaak genoeg mooie woorden verkondigde, die het niet geheel kon waarmaken.

Jamal Ouariachi is psycholoog en schrijver. Voor zijn roman ‘Een Honger’ ontving hij in 2017 de EU-prijs voor literatuur. Hij vervangt vandaag Stevo Akkerman. Lees al zijn eerdere columns hier terug.

Lees ook:

‘De stekker van Facebook is en blijft eruit’

Facebook had een jaar vol schandalen en dat kostte het bedrijf gebruikers, ook in Nederland. In de eindejaarsserie ‘Het jaar van’ vertelt Olga Leever hoe het voelde alsof ze was verhuisd.

Deel dit artikel

Heeft een algoritme een beroepsgeheim?