Context is King: De volgende stap na prompt-engineering

Vandaag staan we aan de vooravond van een nieuw paradigma: context-engineering. In plaats van te focussen op enkel de juiste formulering, draait het nu om het samenstellen en beheren van de juiste informatiestroom binnen de beperkte grenzen van het model. Anthropic publiceerde onlangs een helder stuk waarin ze deze verschuiving toelichten.

Context-engineering versus prompt-engineering: Een evolutie

Prompt-engineering legt de nadruk op het schrijven van effectieve instructies (meestal systeem- of gebruikersprompts). Maar bij complexe agenten, die over meerdere stappen en interacties functioneren, volstaat dat niet. Context-engineering omvat het strategisch selecteren en onderhouden van de informatie (tokens) die een agent meegeeft — niet enkel in de initiële prompt, maar in elke stap van de conversatie.

Bij Anthropic zien ze dit als een natuurlijke voortzetting van prompt-engineering. Waar prompten “once only” is, is contextbeheer cyclisch: naarmate een agent meer toolcalls, geschiedenis en externe data genereert, moet het systeem kiezen wat relevant blijft en wat verwijderd moet worden.

Waarom context-engineering essentieel is voor krachtige agenten

Hoewel moderne modellen steeds grotere contextvensters aankunnen, verliezen ze na verloop van tijd scherpte — een fenomeen dat men noemt context rot. Hoe meer tokens er zijn om te overzien, hoe moeilijker het wordt voor het model om belangrijke signalen eruit te halen.

Net zoals mensen een beperkte werkgeheugencapaciteit hebben, beschikken LLM’s over een “attentiebudget”. Elke extra token vraagt iets van dat budget. Daarom is kwantiteit van context geen automatisch voordeel; relevantie is de sleutel.

De illusie van “meer is beter”

Er bestaat een verleiding om steeds meer historie, tools, externe documenten en resultaten in de context te duwen. Maar vaak leidt dat tot ruis, tegenstrijdigheden en verwarring. Context-engineering is dus geen maximalisme, maar een zuiveringsproces: wat voegt echt waarde toe voor de volgende stap van de agent?

Complexe agent-trajecten vragen beheer

Een agent die slechts één taak beantwoordt, volstaat met een relatief eenvoudige prompt. Maar in workflows van meerdere stappen — met toolcalls, tussenresultaten, geheugen en externe verwijzingen — kan de context snel uit de hand lopen. Hier moet het systeem steeds beslissen: wat blijft relevant, wat kan weg?

De kerncomponenten van effectieve context

Anthropic benoemt een aantal centrale bouwblokken — en uitdagingen — bij context-engineering:

Systeem-prompt op de juiste hoogte

De systeemprompt moet helder en bondig zijn, zonder te veel complexe logica erin te wringen. Een veelgemaakte fout is te ver “instructief” te gaan (wat leidt tot fragiliteit) of juist te vaag (waardoor het model vrij zal zwerven). De kunst is een balans: voldoende richting geven, én flexibiliteit laten.

Cyclisch cureren van context

Elke iteratie waarin de agent terugkeert tot het model, moet heroverwegen welke tokens behouden blijven. Oude tooluitvoeringen, irrelevante chatgeschiedenis of overbodige data kunnen uit de context worden verwijderd om ruimte te maken voor belangrijkere signalen.

Externe data, geheugen en retrieval

Sommige informatie is structureel te omvangrijk om steeds opnieuw in de context te laden. Daarom wordt vaak gewerkt met retrieval-mechanismen (ophalen van relevante documenten), geheugenmodules of externe opslag, zodat de agent alleen de noodzakelijke samenvatting in de actieve context hoeft te houden.

Architecturale beperkingen & aandachtspatronen

De transformer-architectuur zorgt ervoor dat elk token in theorie “kijkt” naar elk ander token. Bij een zeer grote context verzwakt dit mechanisme: de aandacht wordt verspreid en richt zich minder scherp. Modellen zijn bovendien vaker getraind op korte dan lange contexten, wat de prestaties op lange tekstketens verder kan ondermijnen.

Praktische functies en innovaties bij Anthropic

Anthropic onderkent de uitdagingen van contextbeheer in productiegebruik, en introduceert daarom hulpmiddelen om agenten robuuster te maken.

• Context editing: automatisch detecteren en verwijderen van “verlopen” toolcalls of irrelevante content uit de actieve context om tokenlimieten te vermijden en prestaties te verbeteren.
• Memory tool: een bestandssysteem waarin relevante inzichten, conclusies of langetermijngegevens bewaard kunnen worden buiten de onmiddellijke context. De agent kan selectief ophalen wat nodig is zonder het gehele geheugen in het actieve prompt te laden.
• In interne tests leverde het gebruik van context editing + geheugen een prestatieverbetering van 39 % op tegenover een baseline; context editing op zichzelf zorgde al voor een verbetering van 29 %.
• In een experiment van 100 iteraties wist context editing workflows te voltooien die anders faalden vanwege uitputting van de contextruimte, terwijl het tokenverbruik met 84 % daalde.

Deze innovaties maken het mogelijk dat agenten langdurige taken kunnen uitvoeren zonder voortdurend de beperkingen van de contextvensters te raken. 

Reflectie & vooruitblik

De verschuiving van prompt- naar context-engineering markeert een sleutelevolutie in de ontwikkeling van AI-agenten. Wat ooit begon met het zorgvuldig formuleren van prompts, groeit uit tot het beheren van een dynamisch ecosysteem van informatie, geheugen en prioriteit.

Voor ontwikkelaars betekent dit dat het ontwerp van agentarchitecturen steeds meer een kwestie wordt van selectie, compressie en curatorwerk — niet enkel van slimme prompts.

In de nabije toekomst kunnen we verwachten dat context-engineering verder verfijnd wordt via geavanceerde geheugenmodellen, adaptieve compressietechnieken, automatische contextfilters en protocollen die samenwerking tussen agenten ondersteunen. Denk aan koppelingen tussen agenten via open standaarden, gedeelde geheugenlagen, of protocolgebaseerde uitwisseling van context tussen systemen.

Veel van de uitdagingen liggen nog open: hoe voorkom je dat agenten belangrijke informatie weggooien? Hoe detecteer je subtiele afhankelijkheden tussen tokens? Hoe voer je audit en debugging uit in een continu evoluerende context? De antwoorden op zulke vragen zullen het verschil maken tussen experimentele AI-demos en robuuste systemen die in de praktijk kunnen draaien.

How To Design AI Agent Context: 3 Keys To Multi-Agent Success Learn the 3 essential keys to designing context for AI agent teams. Build AI agent teams users trust and adopt. ONTDEK MEER