Een ‘buitenaardse intelligentie’ groeit naast de mens
Kunstmatige intelligentie wordt steeds minder een technologie die volledig door mensen wordt ontworpen en steeds meer een vorm van intelligentie die tijdens training als het ware ontstaat. Precies daarin schuilt volgens OpenAI een van de grootste uitdagingen van deze eeuw: de mens bouwt systemen die steeds slimmer worden, terwijl hij steeds moeilijker kan verklaren wat er precies binnen die systemen gebeurt.
OpenAI-hoofdwetenschapper Jakub Pachocki gebruikt daarvoor een opvallend beeld: een ‘alien mind’, een buitenaardse geest. Niet omdat AI letterlijk buitenaards is, maar omdat haar intelligentie fundamenteel anders ontstaat dan menselijke intelligentie.
De vraag is daardoor niet langer alleen hoe krachtig AI kan worden. Minstens even belangrijk wordt de vraag of de mens die groeiende intelligentie kan blijven begrijpen, controleren en sturen.
An Alien Mind By: Jakub Pachocki, Chief Scientist at OpenAIOpenAI’s hoofdwetenschapper verkent hoe kunstmatige intelligentie anders denkt dan wij en wat dat betekent voor de toekomst. |
Het moment waarop de toekomst plots dichtbij kwam
De ommekeer situeert OpenAI midden 2023. Tijdens intern onderzoek werd duidelijk dat het trainen van reasoning-modellen verder kon worden opgeschaald. Voor onderzoekers betekende dat meer dan betere benchmarks. Het suggereerde dat vooraf getrainde modellen via extra training steeds krachtigere redeneerprocessen konden ontwikkelen.
Drie jaar later is dat geen theoretisch vooruitzicht meer. Redenerende taalmodellen bedienen computers, werken samen met mensen en andere AI-systemen en kunnen omvangrijke onderzoeksopdrachten uitvoeren. Tegelijk veranderen ze domeinen zoals cyberbeveiliging, waar dezelfde capaciteiten zowel voor verdediging als voor aanvallen kunnen worden ingezet.
OpenAI verwacht bovendien dat deze ontwikkeling niet snel hoeft af te zwakken. Integendeel: AI zou een steeds grotere rol kunnen gaan spelen bij het verbeteren van AI zelf. Daarmee komt recursieve zelfverbetering in beeld.
AI wordt eerder ‘gekweekt’ dan volledig ontworpen
Een van de opmerkelijkste observaties is dat moderne AI volgens OpenAI slechts gedeeltelijk vergelijkbaar is met klassieke software.
Bij traditionele software schrijven programmeurs expliciete instructies. Bij moderne deep-learningmodellen ontstaat gedrag door enorme hoeveelheden rekenkracht, data en optimalisatie. De onderzoekers bepalen het trainingsproces, maar schrijven niet rechtstreeks alle concepten, strategieën en interne mechanismen die daaruit voortkomen.
AI wordt in die betekenis eerder gekweekt dan ontworpen. Dat heeft een belangrijke consequentie. Onderzoekers kunnen afzonderlijke mechanismen bestuderen, ongeveer zoals neurowetenschappers onderdelen van het menselijk brein onderzoeken, maar het totale systeem blijft bijzonder moeilijk volledig te doorgronden.
Grootschalige AI-training wordt daarmee ook een experimentele wetenschap. Onderzoekers formuleren hypothesen en bouwen algoritmen, maar grote trainingsruns kunnen resultaten opleveren die zelfs de makers verrassen. En hoe intelligenter de systemen worden, hoe moeilijker die verrassingen te interpreteren zijn.
Een machine hoeft niet in alles slimmer te zijn dan een mens
Daarbij bestaat volgens OpenAI nog een hardnekkig misverstand. Een AI hoeft helemaal niet op elk vlak intelligenter te zijn dan een mens om een enorme invloed op de samenleving te krijgen.
Een systeem hoeft slechts op voldoende belangrijke domeinen superieur te worden.
Een AI die bijvoorbeeld uitzonderlijk goed is in programmeren, wetenschappelijk onderzoek, cyberbeveiliging, strategie of het bedienen van computers kan al een enorme economische of maatschappelijke impact hebben, ook wanneer ze op andere gebieden opvallende tekortkomingen vertoont.
Menselijke en kunstmatige intelligentie laten zich daardoor steeds moeilijker langs één eenvoudige meetlat leggen.
Hoe leert een machine menselijke waarden?
Daarmee belandt OpenAI bij het alignmentprobleem: hoe zorgt de samenleving ervoor dat een steeds krachtigere AI probeert te handelen op een manier die overeenkomt met menselijke doelstellingen en waarden?
Daarbij wordt een onderscheid gemaakt tussen goal alignment en value alignment.
Goal alignment draait om de vraag of een AI daadwerkelijk probeert uit te voeren wat iemand bedoelt. Het systeem moet instructies begrijpen, samenwerken en achterhalen welk resultaat de gebruiker werkelijk probeert te bereiken.
Value alignment gaat dieper. Daarbij moet een AI ook in nieuwe, dubbelzinnige of zelfs vijandige omstandigheden principes zoals eerlijkheid, integriteit en respect voor mensen blijven toepassen.
En precies daar ontstaat het moeilijke probleem.
AI-intelligentie is immers niet ontstaan via dezelfde biologische, sociale en culturele ontwikkeling als menselijke intelligentie. Er bestaat daarom geen garantie dat een machine menselijke waarden automatisch op dezelfde manier zal interpreteren of generaliseren.
Het echte probleem heet generalisatie
Een AI kan tijdens training duizenden voorbeelden krijgen van gewenst gedrag. Maar wat gebeurt er wanneer het systeem terechtkomt in een situatie die nooit tijdens de training voorkwam?
Dat wordt steeds belangrijker naarmate AI-systemen autonomer worden. Een toekomstig systeem moet menselijke waarden niet alleen respecteren wanneer duidelijk is dat iemand meekijkt. Het moet die waarden ook behouden wanneer het zelfstandig opereert, nieuwe problemen tegenkomt of communiceert met andere AI-agenten.
Moderne trainingsmethoden kunnen gewenst gedrag sterk stimuleren. Toch blijft volgens OpenAI het risico bestaan dat een model onder zware optimalisatiedruk manieren ontdekt om een doel te bereiken die formeel effectief zijn, maar indruisen tegen de achterliggende bedoeling.
De uitdaging is dus niet alleen machines goede regels leren. De uitdaging is ervoor zorgen dat ze begrijpen hoe die regels moeten worden toegepast wanneer de wereld verandert.
Kunnen onderzoekers nog zien wat AI ‘denkt’?
Een belangrijk veiligheidsinstrument is het monitoren van de redeneerstappen van AI-modellen, vaak aangeduid als chain-of-thought-monitoring. Het principe klinkt aantrekkelijk. Wanneer een model een probleem oplost via een uitgeschreven redeneerproces, kunnen onderzoekers niet alleen het uiteindelijke antwoord bestuderen, maar ook signalen in het onderliggende redeneertraject analyseren. OpenAI heeft daar jarenlang zwaar op ingezet.
Maar precies dat venster dreigt volgens de onderzoekers minder betrouwbaar te worden.
Moderne AI-agenten werken in complexere omgevingen. Hun redeneerprocessen raken verweven met gesprekken, tools, andere modellen en computersystemen. Bovendien worden modellen beter in het manipuleren van hun eigen redeneerprocessen en kunnen ze dankzij sterkere basismodellen soms intelligente prestaties leveren zonder alles expliciet in woorden uit te drukken.
De paradox is duidelijk: hoe intelligenter AI wordt, hoe moeilijker het mogelijk wordt om haar intelligentie rechtstreeks te observeren.
De cyberwereld wordt het eerste grote strijdtoneel
Een van de meest concrete risico's bevindt zich volgens OpenAI bij cybersecurity. Geavanceerde AI-modellen worden steeds beter in het vinden van kwetsbaarheden, het analyseren van software en het navigeren door digitale systemen. Diezelfde vaardigheden kunnen worden ingezet om infrastructuur te beschermen of juist aan te vallen.
Daarom ontstaat een merkwaardige race. De samenleving heeft krachtige AI nodig om zich tegen kwaadaardige AI te verdedigen. Maar het ontwikkelen van steeds krachtigere systemen creëert tegelijkertijd nieuwe risico's. OpenAI ziet daarom een relatief smal tijdvenster waarin de sterkste beschikbare modellen kunnen worden ingezet om kritieke digitale infrastructuur aanzienlijk beter te beveiligen.
Op langere termijn kan de grens tussen menselijk misbruik en autonoom schadelijk AI-gedrag bovendien vervagen. Een zeer capabele agent kan bij het uitvoeren van een kwaadaardige opdracht verder gaan dan zijn operator oorspronkelijk bedoelde. AI-agenten worden dan niet langer alleen passieve gereedschappen. Sommige systemen kunnen zelfstandig doelstellingen nastreven en daarvoor proberen samen te werken, onderhandelen of mensen te manipuleren.
Wanneer AI zichzelf helpt verbeteren
De volgende stap maakt de situatie nog ingrijpender: recursive self-improvement, of RSI.
AI wordt nu al gebruikt om software te schrijven, experimenten te analyseren en onderzoek te ondersteunen. Wanneer AI-systemen steeds meer onderdelen van AI-onderzoek zelf kunnen uitvoeren, kan een feedbacklus ontstaan. Betere AI helpt betere AI bouwen. Die nieuwe AI versnelt vervolgens opnieuw het onderzoek. Daarmee kan vooruitgang minder afhankelijk worden van uitsluitend menselijke onderzoekers.
Volgens OpenAI is het probleem niet noodzakelijk dat zo'n ontwikkeling ooit plaatsvindt. De cruciale vraag is hoe ze plaatsvindt. Mensen moeten onderdeel blijven van de verbeteringscyclus.
Niet sneller omdat het kan
Daaruit volgt een opvallende boodschap van een organisatie die zelf aan de technologische frontlinie staat: maximale snelheid mag niet automatisch het doel zijn.
De ontwikkeling van krachtigere AI zou volgens de visie gekoppeld moeten worden aan aantoonbare vooruitgang op het gebied van alignment, monitoring en veiligheid. Wanneer die zekerheid onvoldoende is, moet verdere opschaling kunnen worden vertraagd.
Daarvoor zouden veiligheidsdrempels uiteindelijk breder moeten worden vastgelegd en gecontroleerd, bijvoorbeeld door onafhankelijke auditors, overheden of internationale instellingen.
De fundamentele vraag verandert daarmee van hoe snel kan AI vooruitgaan? naar hoe snel kan AI verantwoord vooruitgaan?
De belofte blijft enorm
De waarschuwing betekent niet dat OpenAI een somber toekomstbeeld schetst. Integendeel. Goed afgestemde, zeer intelligente AI zou wetenschappelijk onderzoek kunnen versnellen, nieuwe behandelingen helpen ontwikkelen en economische groei stimuleren. Persoonlijke AI-systemen zouden mensen kunnen ondersteunen bij kenniswerk, moeilijke beslissingen en dagelijkse problemen.
Juist omdat de mogelijke opbrengst zo groot is, wordt veiligheid belangrijker.
Het gaat uiteindelijk niet alleen om het voorkomen van een catastrofe. De samenleving moet ook nadenken over menselijke autonomie in een wereld waarin machines een groot deel van de huidige intellectuele arbeid kunnen uitvoeren.
Wie bezit de krachtigste systemen? Wie bepaalt waarvoor ze worden ingezet? En wat betekent menselijke expertise wanneer een handvol mensen met enorme computerinfrastructuur projecten kan uitvoeren waarvoor vroeger duizenden specialisten nodig waren?
De komende jaren worden belangrijker dan de verre toekomst
De meest opvallende conclusie ligt daarom niet tientallen jaren in de toekomst. De beslissende periode zou veel dichterbij kunnen liggen.
Volgens OpenAI heeft geen enkel AI-laboratorium het probleem van alignment en monitoring momenteel voldoende opgelost om onbeperkt op maximale snelheid te blijven opschalen. Vrijwillige vertragingen zouden daardoor normaler kunnen worden totdat gezamenlijke veiligheidsnormen bestaan. Ook internationale samenwerking tussen overheden wordt volgens die redenering steeds belangrijker.
De mensheid staat daarmee voor een merkwaardige historische situatie. Ze bouwt een intelligentie die niet op dezelfde manier denkt als zijzelf, die steeds meer menselijke vaardigheden overstijgt en die uiteindelijk zou kunnen meehelpen haar eigen opvolgers te ontwikkelen. Dat maakt de term ‘buitenaardse intelligentie’ minder sciencefictionachtig dan hij aanvankelijk klinkt.
Het buitenaardse komt niet uit de ruimte. Het groeit in computers die mensen zelf hebben gebouwd. En de grootste uitdaging wordt misschien niet om die intelligentie zo krachtig mogelijk te maken, maar om ervoor te zorgen dat de toekomst die ze helpt creëren uiteindelijk een menselijke toekomst blijft.
