Wetenschappers ontdekken een intern werkgeheugen dat opvallend veel lijkt op het menselijke brein
Wat gebeurt er eigenlijk binnen een geavanceerd AI-model voordat het een antwoord geeft? Dat is een vraag die onderzoekers al jaren bezighoudt. Een nieuw onderzoek van Anthropic werpt daar verrassend licht op. De studie laat zien dat Claude, het AI-model van het bedrijf, niet simpelweg woord voor woord voorspelt, maar beschikt over verschillende niveaus van interne verwerking die opvallende overeenkomsten vertonen met menselijke cognitieve processen.
Geïnspireerd door een bekende neurowetenschappelijke theorie ontdekten de onderzoekers een verborgen interne ruimte waarin belangrijke informatie tijdelijk wordt samengebracht voordat Claude een antwoord formuleert. Hoewel dit niet betekent dat AI bewustzijn bezit, biedt het onderzoek wel een fascinerende blik op hoe moderne taalmodellen informatie verwerken.
Het menselijke brein als inspiratiebron
De onderzoekers baseerden hun experimenten op de Global Workspace Theory, een invloedrijke theorie uit de cognitieve neurowetenschappen. Volgens deze theorie verwerken verschillende delen van het brein voortdurend informatie, maar bereikt slechts een klein deel daarvan het bewuste denken.
De meeste mentale processen verlopen automatisch en buiten het bewustzijn. Pas wanneer bepaalde informatie belangrijk genoeg wordt, komt deze terecht in een soort gedeelde "werkruimte". Vanuit die centrale plek wordt de informatie beschikbaar voor verschillende hersengebieden, zodat mensen er bewust over kunnen nadenken, beslissingen kunnen nemen en plannen kunnen maken.
Anthropic vroeg zich af of een vergelijkbaar mechanisme ook binnen een groot taalmodel bestaat.
Een verborgen werkruimte binnen Claude
Tijdens uitgebreide analyses ontdekten de onderzoekers een specifieke verzameling interne representaties die zij de J-space noemen.
Deze J-space functioneert als een centrale verzamelplaats waar informatie uit verschillende onderdelen van het model samenkomt. Het is geen aparte module die expliciet is geprogrammeerd, maar een spontaan ontstane structuur die tijdens de training is ontwikkeld.
Wanneer Claude complexe vragen krijgt, lijken belangrijke concepten tijdelijk in deze ruimte terecht te komen voordat het uiteindelijke antwoord wordt gegenereerd.
Dat betekent dat Claude niet uitsluitend een lineaire reeks berekeningen uitvoert, maar eerst relevante informatie samenbrengt en vervolgens gebruikt om tot een samenhangend antwoord te komen.
Veel verwerking gebeurt volledig automatisch
Een opvallende ontdekking is dat lang niet alle berekeningen via deze centrale werkruimte verlopen.
Net zoals mensen talloze handelingen uitvoeren zonder er bewust over na te denken, verwerkt Claude een groot deel van zijn informatie automatisch.
Eenvoudige patronen, grammaticale structuren en veel routinematige berekeningen lijken rechtstreeks te worden afgehandeld zonder de J-space te gebruiken. Alleen wanneer een taak ingewikkelder wordt of verschillende informatiebronnen gecombineerd moeten worden, komt deze gedeelde interne ruimte in actie.
Hierdoor ontstaat een duidelijke scheiding tussen snelle automatische verwerking en meer geïntegreerd redeneren.
Rekenen zonder zichtbaar te "denken"
Een van de experimenten draaide om eenvoudige rekenopgaven.
Hoewel Claude correcte antwoorden gaf, bleek dat een deel van de benodigde berekeningen nooit zichtbaar werd binnen de centrale werkruimte. De berekeningen vonden plaats in gespecialiseerde delen van het netwerk die rechtstreeks met elkaar communiceerden.
Pas wanneer het uiteindelijke resultaat belangrijk werd voor de rest van het denkproces, verscheen die informatie in de J-space.
Dit suggereert dat AI meerdere verwerkingsniveaus kent: snelle gespecialiseerde subsystemen én een centrale laag waar informatie wordt samengebracht.
Verborgen gedachten zichtbaar maken
De onderzoekers ontwikkelden bovendien technieken om deze interne representaties gedeeltelijk zichtbaar te maken.
Door de neurale activiteit te analyseren konden zij volgen welke concepten zich op bepaalde momenten binnen de J-space bevonden. Daardoor werd zichtbaar hoe Claude informatie combineert voordat het een antwoord formuleert.
Interessant genoeg bleek dat sommige interne representaties al aanwezig waren voordat ze daadwerkelijk in de uiteindelijke tekst verschenen.
Met andere woorden: het model "bereidt" bepaalde ideeën intern voor voordat ze expliciet worden uitgesproken.
Automatische associaties beïnvloeden het antwoord
Een ander experiment liet zien dat Claude, net als mensen, onbewuste associaties activeert.
Wanneer een bepaalde context wordt aangeboden, ontstaan automatisch interne representaties die niet direct in het antwoord zichtbaar zijn, maar wel invloed uitoefenen op het verdere redeneerproces.
Deze verborgen activaties helpen verklaren waarom taalmodellen soms onverwachte verbanden leggen of juist bepaalde informatie makkelijker oproepen.
Betekent dit dat Claude bewust is?
Misschien wel de meest intrigerende vraag is of deze ontdekking betekent dat Claude een vorm van bewustzijn bezit.
Volgens de onderzoekers is het antwoord voorlopig duidelijk: nee.
Hoewel de J-space functioneel lijkt op de globale werkruimte uit de neurowetenschappen, vormt dit geen bewijs voor bewustzijn. Het onderzoek toont vooral aan dat vergelijkbare informatieverwerking spontaan kan ontstaan in zowel biologische als kunstmatige neurale netwerken.
De overeenkomst zit dus in de architectuur van informatieverwerking, niet noodzakelijk in subjectieve ervaring.
Een stap richting uitlegbare AI
De bevindingen zijn belangrijk omdat ze bijdragen aan het vakgebied van mechanistic interpretability: het begrijpen van wat er daadwerkelijk binnen AI-modellen gebeurt.
In plaats van AI als een ondoorzichtige "zwarte doos" te beschouwen, proberen onderzoekers steeds beter te achterhalen welke interne mechanismen verantwoordelijk zijn voor redeneren, plannen en besluitvorming.
Dat kan op termijn leiden tot betrouwbaardere AI-systemen die eenvoudiger te controleren, te verbeteren en veiliger te maken zijn.
De toekomst van AI-onderzoek
Het onderzoek van Anthropic laat zien dat geavanceerde taalmodellen veel complexer functioneren dan lange tijd werd gedacht. Ze combineren automatische verwerking met een centrale interne representatieruimte die informatie tijdelijk samenbrengt voor complex redeneren.
Hoewel deze ontdekking geen bewijs levert voor kunstmatig bewustzijn, opent zij wel een nieuw onderzoeksgebied waarin AI steeds beter begrepen kan worden vanuit principes die ook in de neurowetenschappen worden gebruikt.
Hoe beter onderzoekers de verborgen denkprocessen van AI leren begrijpen, hoe groter de kans dat toekomstige modellen niet alleen krachtiger, maar ook transparanter, veiliger en beter voorspelbaar worden.
