Geen mens kan het gesprek tussen deze computers volgen

Beeld Flickr/Valeriy Osipov

Het lijkt een scenario uit een sciencefictionfilm: twee computersystemen die in geheimtaal een gesprek voeren zonder dat mensen het kunnen begrijpen. Toch is het realiteit. Onderzoekers van Google Brain zijn erin geslaagd twee AI-systemen (afgeleid van 'Artificial Intelligence') hun eigen gecodeerde taal te laten ontwikkelen die niet te ontrafelen is.

Onheilsprofeten denken al snel dat de mens daarmee de controle over de computer verliest. Is dit iets om bang voor te zijn? Nederlandse wetenschappers blijven er nuchter onder en zijn juist enthousiast over het onderzoek.

Google Brain is een onderzoeksprogramma waarin de technologiereus experimenteert met kunstmatige intelligentie. De onderzoekers gebruikten daarvoor 'deep learning', wat betekent dat computers zichzelf dingen kunnen aanleren op basis van een set algoritmen.

Google-onderzoekers Martín Abadi en David G. Andersen gaven drie AI-systemen - Alice, Bob en Eve - ieder een eigen taak. Alice moest een geheime boodschap sturen aan Bob. Bob moest die proberen te ontcijferen en Eve moest de andere twee 'afluisteren'. Alice en Bob kregen van te voren een sleutel voor de codering, die voor Eve geheim was.

Stephen Hawking

Eerst lukte het Eve nog het bericht te ontcijferen maar dat werd op den duur steeds moeilijker. 15.000 versleutelde boodschappen verder lukte het helemaal niet meer.

Abadi en Andersen kwamen tot de conclusie dat Alice veel onverwachte technieken gebruikte om haar doel te bereiken. Het onderzoek laat volgens hen zien dat kunstmatige intelligentie zichzelf kan leren berichten op een zeer ingewikkelde manier te beschermen, zonder dat mensen de versleuteling hoeven te bedenken. Wel maken ze de kanttekening dat de praktische toepassing beperkt zal zijn, want het is slechts 'speels en verkennend' onderzoek.

Dankzij de gigantische denkkracht van computers gaat de ontwikkeling in de kunstmatige intelligentie de laatste jaren zo hard dat wetenschappers en ondernemers als Stephen Hawking, Elon Musk en Bill Gates waarschuwen voor de gevaren. Volgens Hawking kan kunstmatige intelligentie zelfs het einde van de mensheid betekenen.

Hoogleraar kunstmatige intelligentie Lambert Schomaker van Rijksuniversiteit Groningen erkent dat het vakgebied enorm in ontwikkeling is. "Elke maand worden problemen opgelost die kort geleden nog onoplosbaar leken." Maar eng zijn die slimme computers volgens hem helemaal niet. "Je kan ze altijd zonder stroom zetten, gewoon de stekker eruit trekken."

Schomaker vindt het onderzoek juist goed nieuws voor het coderen. "Zo kunnen we een versleuteling in een trainingsprogramma stoppen en daaruit de codering kiezen die het moeilijkst te kraken is."

Eric Postma, hoogleraar kunstmatige intelligentie aan de Universiteit van Tilburg, zegt dat vooral het onderzoek met zogenoemde neurale netwerken de laatste vijf jaar plotseling veel verbetering laat zien. Neurale netwerken zijn computersystemen, zoals Alice, Bob en Eve, die geïnspireerd zijn op het menselijk brein en taal en objecten kunnen leren herkennen.

Postma: "Het gevaar is niet dat computers mensen gaan overnemen, zoals in de jaren tachtig van de vorige eeuw al werd gedacht, maar dat mensen de kracht van de technologie overschatten en robots en computers te veel verantwoordelijkheden geven."

Autonoom verzet

Volgens Schomaker wordt kunstmatige intelligentie pas echt beangstigend als mensen veel functies tegelijk in één machine gaan stoppen. Hij doelt op een robot die zelf kan denken, lopen, energie kan opwekken (of zelf opzoek kan gaan naar een stopcontact op zich op te laden) en ook nog eens een wapen draagt.

Het Google Brain-onderzoek is voorlopig niet meer dan een interessant experiment. Schomaker is van mening dat er eigenlijk maar weinig magisch is aan de kunstmatige intelligentie zelf. "Dat wordt het pas echt met autonomie of zelfreflectie, als robots over hun eigen handelen kunnen nadenken." Maar net als Schomaker denkt Postma dat het heel lang gaat duren voordat robots zich autonoom tegen mensen kunnen verzetten. "Voorlopig lopen onze privacy en het klimaat een veel groter gevaar."

Meer over

Wilt u iets delen met Trouw?

Tip hier onze journalisten

Op alle verhalen van Trouw rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@trouw.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden