De uitvinder van AI heeft spijt. Wat moeten we daarmee?

Wat hebben we eraan als een grote naam in de wetenschap spijt betuigt over zijn uitvinding? Vorige week meldde The New York Times dat een belangrijke pionier in de ontwikkeling van artificiële intelligentie (AI) ontslag had genomen bij Google. De 75-jarige Geoffrey Hinton wil vanaf nu in vrijheid over de potentiële gevaren van zijn levenswerk spreken.

Tien jaar geleden haalde Google hem binnen om het door hem en zijn team ontwikkelde systeem van deep learning te gebruiken om machines te leren spreken, schrijven of muziek te maken.

Dat ‘diepe leren’ draait om het opsporen van patronen in grote hoeveelheden digitale beelden, teksten en spraakbestanden, en het op grond daarvan ontwikkelen van classificatiesystemen.

Hinton was er als jonge wetenschapper al van overtuigd dat computers via dat diepe leren gingen denken als een mens: ze zouden net als mensen moeiteloos een zwaan van een meeuw kunnen onderscheiden. Of een man van een vrouw.

Mensen zijn slimmer dan AI-systemen

Maar menselijk denken is veel meer dan het herkennen van patronen. Mensen kunnen patronen ter discussie stellen. Ze kunnen voorbij de bestaande werkelijkheid en de daarin te herkennen patronen over het ware, het goede en het schone denken. En ze kunnen nieuwe werkelijkheden bedenken en creëren. Mensen zijn kortom slimmer dan AI-systemen.

Ook Hinton weet dat. Maar hij denkt dat dit straks niet meer zo is. Het internet zal dan worden overspoeld met door AI gegenereerde foto’s, video’s, muziek, kunstwerken en teksten. Hoe kunnen mensen dan nog weten wat waar of onwaar is, vraagt hij.

Nog bedreigender wordt het als de AI-systemen zelfstandig gaan denken en niet langer door mensen zijn te controleren. Of als ze in handen van kwade geesten vallen.

Hinton zegt vanwege die gevaren spijt te hebben van zijn werk. Hij vergelijkt zichzelf met kernfysicus Robert Oppenheimer, die tijdens de Tweede Wereldoorlog het Amerikaanse Manhattanproject voor de ontwikkeling van de atoombom leidde. Daarmee plaatst Hinton zich in een traditie van grote, veelal geniaal genoemde mannelijke wetenschappers die achteraf spijt hadden van hun grootse uitvindingen.

Oppenheimer betreurde het dat er door zijn toedoen na de oorlog een nucleaire wapenrace ontstond die de menselijk beschaving bedreigde; Hinton betreurt het dat er door hem een wereldwijde AI-competitie is ontstaan die een vergelijkbare dreiging vormt.

Het effect van de uitvinding is er niet minder om

Wat levert zo’n publieke spijtbetuiging op? Het helpt de boeteling misschien om zijn geweten te sussen. Maar het effect van de uitvinding is er niet minder om.

Wat Hinton en ook Oppenheimer vergeten, is dat wetenschappers veel eerder al ‘nee’ kunnen zeggen. Dat deed Oppenheimers collega Joseph Rotblat in 1944, ruim voordat Amerika de atoombommen op Hiroshima en Nagasaki wierp en lang voordat de naoorlogse wapenrace begon. Zo’n vroegtijdige weigering levert minder applaus en status op dan een spijtbetuiging achteraf. Maar de menselijke beschaving heeft er meer baat bij.

Afgelopen maart riepen meer dan duizend deskundigen op het gebied van AI in een open brief op tot een moratorium van een half jaar op de verdere ontwikkeling van AI en tot wereldwijde regulering. Geoffrey Hintons handtekening ontbrak onder deze brief. Dat wekt argwaan.

Zijn late mea culpa vestigt nu vooral de aandacht op hemzelf en minder op de noodzaak van regulering. Zijn spijtbetuiging is voer voor biopics, maar voor de bescherming van de menselijke beschaving kunnen we beter naar de grote groep kritische AI-wetenschappers luisteren.