Op 29 maart publiceerde een groep prominenten, onder andere uit Silicon Valley, een brief waarin zij ertoe opriepen om de ontwikkeling van kunstmatige intelligentie ten minste een half jaar stil te leggen, en die tijd te gebruiken om veiligheidsprotocollen te ontwikkelen. We spreken erover met Wim Naudé, AI-expert bij de OESO.
Waar zijn de auteurs bang voor?
“De auteurs vrezen GPT4, de nieuwste versie van een taalmodel gebaseerd op artificial intelligence (AI). Het is onduidelijk hoe dit model is getraind. De vrees is dat het model zichzelf dermate snel kan ontwikkelen dat het slimmer wordt dan de mens. Dan zou het einde nabij kunnen zijn voor de mensheid, volgens deze wetenschappers. Zo kan AI de mensheid als een bedreiging zien, en aan hen de oorlog verklaren. Of de dreiging loopt via een AI lock-in, waarbij AI de overheid overneemt en wereldwijd wetten aanneemt die men nooit meer kan veranderen. Ook is er een situatie denkbaar uit The Matrix, waarbij de AI stimulansen verschaft, en zo menselijk gedrag kan beïnvloeden.”
Zijn de zorgen terecht in jouw ogen?
“Filosofisch gezien wel. Maar deze oproep lijkt juist ook te zijn ingegeven door de tegenvallende resultaten van AI. Het is niet de eerste open brief van deze groep prominenten uit Silicon Valley. In 2015 publiceerden zij op de website van Future of life een open brief, waarin zij juist meer onderzoek naar AI bepleitten. Zij dachten dat de opbrengsten van AI immens zouden zijn, en dat het bijvoorbeeld de mondiale armoede zou kunnen oplossen. Nu dat acht jaar later lijkt tegen te vallen, wegen de baten volgens hen kennelijk niet meer op tegen de risico’s.
Maar je zou de oproep ook kunnen zien als een publiciteitsstunt: de tech-industrie staat onder zware druk. De auteurs proberen met de oproep enerzijds aan te geven hoe krachtig hun creatie is – door ervoor te waarschuwen. Anderzijds willen ze met de oproep aangeven hoe deugdzaam ze zijn.
Ik denk zelf echter niet dat AI al een existentieel risico met zich meebrengt – er is nog geen enkele beschaving aan zijn eigen technologie ten onder gegaan.”
Dus we moeten verder gaan met het onderzoek naar AI?
“We moeten vooral meer onderzoek doen naar menselijke intelligentie. We kunnen er veel van leren, want het menselijk brein boekt, vergeleken met AI, uitstekende resultaten – terwijl het een fractie van de energie gebruikt. Maar we begrijpen er nog weinig van – het menselijk bewustzijn is bijvoorbeeld nog een black box.
We moeten daarnaast ook AI blijven onderzoeken, maar daarbij zou de tech-industrie zich wel meer moeten richten op de grote doorbraken. De AI-gadgets leiden ons af van de fundamentele technologie waar we naar op zoek zijn – en waarnaar de zoektocht langer zal gaan duren. Volgens een groeiend koor van commentatoren stagneert bijvoorbeeld de fundamentele fysica, die vrijwel alle technologieën geleverd heeft die ten grondslag lagen aan eerdere industriële revoluties.”
Zou AI de productiviteitsgroei kunnen aanjagen?
“Ook dat valt vooralsnog tegen. In de Verenigde Staten gebruikt slechts twee procent van de bedrijven AI. Veel bedrijven vinden AI te duur en de voordelen te beperkt, en daarom niet rendabel. Het is sowieso niet zeker dat AI productiviteitsverhogend werkt, want de toepassing kan erg complex en tijdrovend zijn.”
Moeten we ons zorgen maken dat onze baan overbodig wordt?
“Nee, ik denk het niet. Sommige banen zullen overbodig worden, maar ik zie daarin geen problemen. Er zijn meer banen dan ooit. Mijn kinderen hebben nu geen idee wat ze moeten kiezen van de ongeveer 15.000 banen die er zijn. Wat voor type carrière we zelf willen, staat nu centraal. Ik heb ook zo nu en dan gedacht of ik wel mijn hele leven mijn huidige werk wil blijven doen. En in deze generatie kan men dus gelukkig wisselen van carrière.”
Literatuur
Bengio, Y., S. Russell, E. Musk et al. (2023) Pause giant AI experiments: an open letter. Open brief, 22 maart. Te vinden op futureoflife.org.
Categorieën
