null

OpinieKunstmatige intelligentie

Gelet op de gevaren verdient de digitale agenda in Den Haag meer ambitie

Deskundigen noemen kunstmatige intelligentie het belangrijkste existentiële risico voor de mensheid in deze eeuw. Het kabinet moet daarnaar handelen, vinden Otto Barten (directeur van het Existential Risk Observatory) en Mark Brakel (director of European Policy bij het Future of Life Institute).

Otto Barten en Mark Brakel

Voor het eerst heeft een Nederlands kabinet een bewindspersoon voor Digitale Zaken. Een belangrijke stap. Te lang liet onze overheid alles wat samenhangt met Big Tech over aan bedrijven als Google en Facebook. Nu alleen nog digitaal beleid dat ook écht ‘vooruitziet naar de toekomst’.

Een kabinet dat de toekomst niet alleen in motto, maar ook in beleid centraal stelt, zou meer dan één kantje regeringsplannen aan digitalisering besteden. Want juist op dit punt verandert de wereld razendsnel. Recent nog kondigde vaccinproducent BioNTech aan, dat zijn artificial intelligence-systeem (AI) systeem erin slaagt om zorgelijke virusvarianten twee maanden eerder te herkennen dan gezondheidsexperts.

De Capitool-bestorming en het toeslagenschandaal

Kunstmatige intelligentie neemt steeds meer taken van ons over. Dat heeft grote consequenties voor onze maatschappij en arbeidsmarkt. Deze ontwikkeling is even kansrijk als risicovol. We zagen het met relatief simpele algoritmes al helemaal misgaan. Denk aan Facebook en de bestorming van het Capitool, of dichter bij huis: het toeslagenschandaal.

Ondanks twintig jaar onderzoek wereldwijd is er nog geen betrouwbare manier om kunstmatige intelligentie naar onze waarden te laten handelen. De programmeurs van Facebook hadden nooit de intentie om de VS te polariseren, maar het was wel het gevolg van hun algoritmes. Als relatief simpele AI al drastische gevolgen kan hebben, wat kan er dan allemaal misgaan met AI die slimmer wordt dan wij. Een groeiende groep experts noemt AI het belangrijkste existentiële risico voor de mensheid in deze eeuw.

Lessen van de pandemie en klimaatcrisis

Krachtige AI kan een surveillancestaat perfectioneren of doelen nastreven die het voortbestaan van de mens bedreigen. Een kabinet met een toekomstgericht motto moet zijn ambitie opschroeven. Ontwikkel een visie op de kansen van kunstmatige intelligentie en begin de risico’s te managen.

Voeg AI als existentieel risico toe aan de Geïntegreerde risicoanalyse Nationale Veiligheid. Benoem een directeur-generaal voor existentiële risico’s – zoals die van AI – op het ministerie van binnenlandse zaken. En richt een Planbureau voor Existentiële Risico’s op dat de potentiële gevaren in de gaten houdt en voorstellen doet over hoe die te reduceren. Van coronapandemie en klimaatcrisis kunnen we leren dat voorkomen beter is dan genezen.

Lees ook:

Alexandra van Huffelen als staatssecretaris van digitalisering is een gemiste kans

Ik heb geen hoge verwachtingen van Van Huffelen op deze nieuwe post, schrijft Ilyaz Nasrullah, want een blik op haar cv laat zien dat zij op beide onderwerpen relevante kennis en ervaring mist.

Een nieuwe Haagse bestuurscultuur vereist een nieuwe datacultuur

De overheid zal anders moeten omgaan met het gebruik van data en algoritmes. Anders komt de gewenste nieuwe verhouding met burgers niet van de grond, stelt Kees Verhoeven, oud-Kamerlid en eigenaar van Bureau Digitale Zaken.

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden