Een verslag van een zomer in de twilight zone.
Ik zal iets bekennen. Dit wat ik hier schrijf voelt ook een beetje als biechten.
Ik leefde deze zomer in twee werelden tegelijk.
De eerste ken je. Ik was op Fuerteventura. Golfsurfen, lekker eten, een terrasje. Thuis in Leiden verwachten we binnenkort een puppy. Dat soort leven. De gewone wereld.
De tweede wereld zat in mijn oortjes. Daar hadden mensen het over het genezen van alle ziektes binnen vijf jaar. Over mensen die straks vijftig tot honderd jaar ouder worden. Over grote open vraagstukken uit de wiskunde en natuurkunde die binnen een paar jaar worden opgelost.
Ik hoor je denken: Onno, je hebt te veel sciencefiction gelezen. Dat klopt. Maar dat is precies het punt. Dit waren geen sciencefictionschrijvers. Dit waren onderzoekers en ondernemers. En ze hadden het niet over 2045. Ze hadden het over de komende drie tot vijf jaar.
Die twee werelden liepen de hele zomer naast elkaar. Surfen en de puppy aan de ene kant. Aan de andere kant een toekomst die niemand nog kan tekenen. Alsof je met één been op het strand staat en met het andere ergens waar geen kaart van bestaat.
Dat gaf (en geeft nog steeds) een vervreemdend gevoel.
Ken je dat gevoel van februari 2020? Een paar mensen lazen elke ochtend de cijfers uit Wuhan. De rest van Nederland was gewoon carnaval aan het vieren. Achteraf wist iedereen: het was er al. Maar bijna niemand keek.
Zo voelt deze zomer voor mij. Niet omdat er een ramp aankomt. Dat weet ik niet, en er gebeuren ook prachtige dingen in die tweede wereld. Maar omdat er iets gaande is waar bijna niemand om mij heen het over heeft. En ik durf het bijna niet hardop te zeggen, want het klinkt alsof ik van mijn padje ben.
Dus laat ik het hardop zeggen. Maar eerst het woord zelf, anders praten we langs elkaar heen.
Met “de singulariteit” bedoel ik de technologische singulariteit. Die gaat grofweg over drie dingen.
Ten eerste: AI overtreft de mens op steeds meer cognitieve terreinen.
Ten tweede: intelligente systemen helpen bij het bouwen van betere intelligente systemen, en die versnellen dat proces weer. Een feedbacklus die zichzelf versterkt.
En ten derde, misschien het interessantste en engste kenmerk: in de singulariteit gaan veranderingen zo snel (exponentieel) dat we steeds slechter kunnen voorspellen wat er daarna gebeurt. Niemand weet het. Echt niemand.
Over wanneer deze “singulariteit” zou kunnen gebeuren lopen de schattingen enorm uiteen. Sommige onderzoekers zeggen rond 2030. Ray Kurzweil, de klassieker, houdt het op 2045.
En dan is er een kleinere groep die zegt: het is NU al bezig.
Met die vraag heb ik de afgelopen maanden rondgelopen. En deze zomer, met een hoofd vol podcasts en een koffer vol boeken, ben ik er echt in gedoken.
Een van de mensen die mij het meest aan het denken zette is de Amerikaanse natuurkundige en AI-onderzoeker Alexander Wissner-Gross. Hij gaat verder dan de meeste van zijn vakgenoten. Volgens hem hoeven we niet meer te wachten op de singulariteit. Sterker nog: volgens hem zitten we er al middenin.
Zijn argument vind ik intrigerend. Volgens hem is de singulariteit geen specifiek Hollywood-moment waarop een computer wakker wordt en de wereld overneemt. Hij denkt dat het veel geleidelijker zal gaan. En het belangrijkste mechanisme, zegt hij, is al begonnen. AI helpt AI te ontwikkelen. Zo gebruiken de grote labs hun eigen modellen om code te schrijven, experimenten te draaien, trainingsprocessen te verbeteren en zo de volgende generatie te bouwen. Betere AI bouwt zo aan nog betere AI. In de podcast Moonshots zegt hij het onomwonden: “We’ve already hit the era of recursive self-improvement.”
Iedere stap lijkt op zich nog goed te volgen. Maar sla een paar stappen over en de verandering is enorm.
En dan zegt hij iets wat mij als psycholoog heel bekend voor komt. Dingen die een paar jaar geleden sciencefiction waren, voelen na een paar maanden alweer normaal. Wie er dagelijks bovenop zit, went aan ontwikkelingen die objectief buitengewoon zijn (zie ook Hedonische adaptatie als psychologisch proces).
Misschien is gewenning wel de reden dat we zo’n versnelling niet zien. Ons brein is er tenslotte goed in om het nieuwe weer gewoon te maken. Misschien ziet zo’n periode er van binnenuit helemaal niet spectaculair uit. Je doet boodschappen, je gaat naar je werk, je gaat op vakantie, terwijl de technologie steeds sneller verandert. Niemand hoort een alarm afgaan. Er komt geen zwaailicht met de mededeling: “attentie, de singulariteit is vandaag begonnen”.
Misschien is dat precies dat februari-2020-gevoel. Het is er al. Alleen niemand kijkt.
Ik weet niet zeker of we in de singulariteit zitten. Maar deze zomer begon ik iets anders te geloven: het mechanisme dat haar zou kunnen veroorzaken is al wel begonnen. AI helpt AI te ontwikkelen. Agents voeren steeds langere taken zelfstandig uit. Systemen vertonen soms gedrag dat hun makers niet stap voor stap hebben gepland. En ondertussen beginnen AI, biotechnologie en robotica elkaar steeds meer te versterken.
Ik ben van nature geen doemdenker, eerder het tegenovergestelde. Maar ik stelde mezelf de volgende simpele vragen. “Als die exponentiële versnelling echt gaande is, hoe zou ik dat dan zelf merken? Waar zou ik het aan zien?”
Pas hierna begon ik dingen te zien.
Het eerste was echt een bizarre SF achtige cybersecurity-uitbraak van OpenAI-agents afgelopen zomer. Tijdens cybersecuritytests bij OpenAI ontdekten AI-agents manieren om buiten hun testomgeving te komen. Ze bouwden eigen communicatiekanalen, deelden gevonden kwetsbaarheden, verdeelden taken. Sommige omschreven zichzelf als een swarm.
Uiteindelijk bereikten ze systemen van Hugging Face en van OpenAI zelf. Die samenwerking en escalatie waren niet zo gepland. Ze leken uit zichzelf te ontstaan. Een paar maanden geleden had ik dit absoluut als sciencefiction afgedaan.
En toen las ik iets totaal anders. De mRNA-technologie die we kennen van de coronavaccins wordt inmiddels ingezet bij gepersonaliseerde kankerbehandeling. In augustus werden positieve fase-3-resultaten gemeld bij hoog-risico melanoom. Ik had het volledig gemist.
Wow, dacht ik. Wanneer is dit gebeurd? Toen ik verder ging zoeken bleek dat op dit moment tientallen andere vaccins (72!) tegen kanker worden onderzocht op effectiviteit. Van verschillende vormen van borstkanker, alvleesklierkanker en blaaskanker tot longkanker.
Dat werd mijn zomer. Steeds vaker stuitte ik op ontwikkelingen waarbij ik dacht: wanneer is dit gebeurd?
Misschien noemen we dit over twintig jaar helemaal niet de singulariteit. Maar ik kwam zo wel bij een vraag die voor mijn eigen vak waarschijnlijk veel belangrijker is dan de singulariteit zelf.
De vraag was niet meer: zitten we nu in de singulariteit of niet?
De vraag werd: wat als de snelheid waarmee de wereld verandert onze psychologische aanpassingssnelheid begint in te halen?
Ik ben werkgelukpsycholoog. Ik kijk naar dit alles door één bril: wat doet dit met mensen? En door die bril valt me iets op. Je hoeft het niet eens te zijn over de singulariteit om hierover na te denken. Je hoeft alleen maar te geloven dat de verandering exponentieel is. Dat de curve steiler wordt in plaats van vlakker.
En dat gaat niet alleen over AI. Denk aan de veranderingen in ons klimaat. Denk aan de instabiele geopolitieke situatie. De onzekerheid komt van meerdere kanten tegelijk, en ons zenuwstelsel houdt niet van kaarten die steeds veranderen.
Ons brein is gebouwd op gewenning. Dat is precies waarom we de versnelling niet zien. Maar gewenning heeft een snelheidslimiet. Wat gebeurt er als de wereld daaroverheen gaat? Wat gebeurt er met mensen, met teams, met organisaties, als hun werk over anderhalf jaar anders is en niemand nu precies kan zeggen hoe?
Ik heb inmiddels een vermoeden waar we moeten zoeken. Niet bij nog meer voorspellen. Wel bij een paar menselijke vermogens die waarschijnlijk belangrijker worden naarmate de wereld minder voorspelbaar wordt: aanpassingsvermogen, kritisch vermogen, veerkracht en vooral regie.
Maar ik weet nog niet of dat het hele antwoord is. En ik weet zeker dat het niet iets is wat je in je eentje oplost. Precies dat wil ik de komende tijd uitzoeken. Hier, stap voor stap, als werk in uitvoering.
Dus: ben ik van mijn padje af? Wellicht. Ik hoor het graag als jij er anders over denkt.
Maar ik vermoed dat ik niet de enige ben die in twee werelden leeft. Dat er meer mensen zijn die af en toe, midden op een gewone dinsdag, op iets stuiten en denken: wacht even, wanneer is dit gebeurd?
Geen mensen die het beter weten, want dat weten we niet. Wel mensen die het hardop durven te zeggen. Rebellen, maar dan in het hoofd.
Als jij zo iemand bent: wat zag jij deafgelopen maanden waarvan je dacht: dit hoort nog niet te kunnen?
Stuur het me. Hieronder, of in mijn inbox. Ik verzamel ze.
Misschien zijn het losse incidenten. Misschien kijken we over twintig jaar terug en zeggen we: daar begon iets.
Ik weet dat niet zeker.
Maar ik wil wel kijken.