Nieuwe techniek laat AI context comprimeren zonder belangrijke kennis kwijt te raken
Terwijl AI-agenten steeds complexere taken uitvoeren, lopen ze vroeg of laat tegen een fundamenteel probleem aan: de maximale contextlengte van een taalmodel. Zodra een gesprek, project of workflow te groot wordt, moet informatie worden samengevat of verwijderd. Vaak gebeurt dat automatisch, met het risico dat belangrijke details voorgoed verloren gaan.
Onderzoekers van Carnegie Mellon University (CMU) en Meta introduceren hiervoor een alternatieve aanpak: Agentic Context Management (ACM). In plaats van een systeem dat op de achtergrond stilzwijgend context verwijdert, krijgt de AI-agent zelf inzicht in zijn beschikbare geheugen en beslist hij wanneer het tijd is om informatie te comprimeren. De originele gegevens blijven daarbij altijd bewaard.
Niet het systeem, maar de AI beslist
Veel huidige AI-agenten werken met een vaste limiet. Zodra het contextvenster bijna vol zit, vat een externe module automatisch eerdere gesprekken samen. Dat houdt de agent operationeel, maar de AI heeft nauwelijks controle over wat behouden blijft en wat verdwijnt.
ACM draait deze werkwijze volledig om. De agent ontvangt vóór iedere nieuwe modelaanroep een duidelijk signaal over de beschikbare ruimte in het contextvenster. Hierdoor kan hij zelf plannen wanneer een samenvatting verstandig is en wanneer extra context juist noodzakelijk blijft.
In plaats van reactief geheugen op te ruimen, wordt geheugenbeheer onderdeel van het redeneerproces van de AI zelf.
Een contextbudget als navigatiesysteem
Centraal in ACM staat een eenvoudig maar krachtig principe. Voor iedere stap krijgt de agent een melding zoals: CURRENT CONTEXT TOKEN: N
Dit geeft een conservatieve schatting van hoeveel tokens de volgende stap zal gebruiken. Daardoor kan het model vooruitdenken en beoordelen of het nog voldoende ruimte heeft voor vervolgacties.
Dat lijkt eenvoudig, maar het verandert de manier waarop AI-agenten met lange workflows omgaan. In plaats van pas te reageren wanneer het geheugen vol raakt, kan de agent tijdig anticiperen.
Slim comprimeren met één geheugenfunctie
Wanneer de agent besluit dat het tijd is om context te verkleinen, gebruikt hij de functie manage_context. Opvallend is dat deze opdracht geen parameters nodig heeft.
Het onderliggende systeem bepaalt automatisch welk gedeelte van de werkcontext het meest geschikt is om samen te vatten. Vervolgens wordt dat fragment doorgestuurd naar een speciaal samenvattingsmodel dat uitsluitend verantwoordelijk is voor het maken van een compacte geheugenrepresentatie.
Mocht de gegenereerde structuur niet correct zijn, dan probeert het systeem de samenvatting automatisch opnieuw te genereren, tot maximaal twee extra pogingen.
Hierdoor ontstaat een robuust mechanisme dat minder gevoelig is voor fouten.
Geen informatieverlies dankzij archivering
Het meest onderscheidende aspect van ACM is misschien wel de garantie dat geen enkele oorspronkelijke informatie verloren gaat.
Voordat een deel van de context uit het actieve geheugen verdwijnt, wordt de volledige inhoud opgeslagen als een afzonderlijk JSON-bestand, bijvoorbeeld: summary_1.json Pas daarna wordt de oorspronkelijke context verwijderd uit het werkgeheugen. Daardoor blijft iedere verwijderde passage volledig beschikbaar voor later gebruik.
Deze aanpak verschilt sterk van traditionele contextcompressie, waarbij de originele gegevens vaak definitief verdwijnen.
Gerichte herinneringen in plaats van lange samenvattingen
Wanneer de agent later toch informatie uit een oudere context nodig heeft, hoeft hij niet de volledige samenvatting opnieuw in te laden.
Met de functie query_memory(summary_id, query) kan hij rechtstreeks een specifieke vraag stellen over het gearchiveerde materiaal. Een afzonderlijk taalmodel analyseert vervolgens alleen het relevante archief en retourneert uitsluitend de benodigde observatie.
Daardoor blijft het actieve contextvenster klein, terwijl de agent toch toegang houdt tot alle historische informatie.
Een veiligheidsnet voorkomt vastlopen
Hoewel ACM ervan uitgaat dat de AI zelf beslist wanneer context moet worden gecomprimeerd, bevat het systeem ook een ingebouwd vangnet.
Wanneer ongeveer 95 procent van het contextvenster is gevuld, grijpt de software automatisch in. Afhankelijk van de gekozen werkmodus wordt alsnog een verplichte contextcompressie uitgevoerd. In andere modi krijgt de agent nog één laatste tekstuele interactie voordat het proces stopt.
In de praktijk is dit vooral bedoeld als noodrem. De ideale situatie is dat de AI ruim vóór deze grens zelfstandig besluit om zijn geheugen efficiënter te organiseren.
Vier gereedschappen en drie geheugenniveaus
De architectuur van ACM bestaat uit een relatief compacte verzameling hulpmiddelen.
De agent beschikt over vier kernfuncties die samenwerken met drie verschillende, op bestanden gebaseerde geheugenlagen. De eerder gearchiveerde contextfragmenten vormen daarbij de basis voor langdurige kennisopslag. Hierdoor ontstaat een duidelijk onderscheid tussen actief werkgeheugen, samengevat geheugen en volledig historisch archief.
Dat maakt langdurige AI-processen aanzienlijk beter beheersbaar.
Een krachtige AI leert een kleinere AI wanneer te comprimeren
Naast het runtime-systeem beschrijven de onderzoekers ook een aparte trainingsmethode.
Hiervoor wordt een zogenoemde Off-Policy Distillation (OPD)-pipeline gebruikt, bestaande uit zes fasen. Een zeer groot taalmodel met circa 397 miljard parameters fungeert als docent voor een aanzienlijk kleiner model van 9 miljard parameters. Na de training beoordelen GPT-5 en Gemini achteraf hoe goed de contextcompressie is uitgevoerd. Die evaluaties helpen het kleinere model om te leren op welke momenten het verstandig is om informatie samen te vatten.
Deze beoordelingsstap vindt echter pas achteraf plaats en niet tijdens het daadwerkelijke gebruik van de agent.
Sterke basis, maar nog niet compleet
De onderzoekers zijn opvallend open over de huidige beperkingen van ACM.
Zo ontbreekt nog een uitgebreide autorisatie- of permissielaag rond de beschikbare tools. Daarnaast is de kwaliteitscontrole gebaseerd op achteraf uitgevoerde beoordelingen, in plaats van een uitgebreide onafhankelijke evaluatieset waarmee de prestaties systematisch kunnen worden gemeten.
Dat betekent dat ACM een veelbelovende architectuur presenteert, maar nog verdere verfijning nodig heeft voordat deze op grote schaal in productieomgevingen kan worden ingezet.
Een andere kijk op geheugenbeheer voor AI-agenten
Agentic Context Management laat zien dat contextbeheer niet langer uitsluitend een technische optimalisatie hoeft te zijn.
Door AI-agenten zelf inzicht te geven in hun beschikbare geheugen en hen actief te laten beslissen wanneer context moet worden gecomprimeerd, ontstaat een veel natuurlijkere manier van werken. De combinatie van transparant contextbeheer, volledige archivering en gerichte informatie-opvraging maakt het mogelijk om langdurige workflows uit te voeren zonder dat waardevolle kennis verloren gaat.
Voor ontwikkelaars van AI-agenten kan ACM daarmee een belangrijke stap zijn richting systemen die niet alleen slimmer redeneren, maar ook veel beter omgaan met hun eigen geheugen.
