De opkomst van “agentic AI” zorgt voor een nieuwe golf van technologische ambitie. AI-systemen die niet alleen antwoorden geven, maar zelfstandig plannen maken, tools gebruiken, acties uitvoeren en zelfs beslissingen nemen zonder voortdurende menselijke tussenkomst. Maar volgens experts blijkt net die autonomie ook de grootste zwakte te zijn.
In een analyse van IBM legt onderzoeker Meenakshi Kodak uit waarom agentic AI-systemen vandaag nog opvallend vaak falen. Niet door willekeurige bugs, maar door voorspelbare ontwerpfouten die steeds opnieuw terugkeren.
Wanneer AI zichzelf opsluit in een eindeloze lus
Een van de meest voorkomende problemen is de zogenaamde “infinite loop”. Daarbij blijft een AI-agent dezelfde actie herhalen zonder ooit tot een bruikbaar resultaat te komen.
Dat kan bijvoorbeeld gebeuren wanneer een AI-agent:
- voortdurend dezelfde tool opnieuw oproept,
- zichzelf blijft corrigeren,
- of blijft wachten op een resultaat dat nooit geldig wordt.
In complexe multi-agent systemen kan dit zelfs escaleren tot meerdere AI’s die eindeloos met elkaar communiceren zonder echte vooruitgang. Experts noemen dit niet alleen een technisch probleem, maar ook een financiële nachtmerrie, omdat zulke lussen enorme hoeveelheden rekenkracht en API-kosten kunnen veroorzaken.
Hallucinerende plannen maken AI onbetrouwbaar
Een tweede groot probleem ontstaat wanneer AI-agenten plannen beginnen te verzinnen die logisch lijken, maar in werkelijkheid gebaseerd zijn op foutieve aannames.
Dat fenomeen — bekend als hallucinated planning — zorgt ervoor dat een agent:
- verkeerde stappen kiest,
- onbestaande tools probeert te gebruiken,
- of acties uitvoert in een foutieve volgorde.
Onderzoekers wijzen erop dat agentic AI-systemen vaak indrukwekkend klinken, maar moeite hebben met langdurige planning over meerdere stappen heen. Vooral wanneer omstandigheden veranderen of uitzonderingen optreden, verliezen veel agents het overzicht.
Gevaarlijke tooltoegang zonder controle
Nog problematischer wordt het wanneer AI-systemen directe toegang krijgen tot externe tools, databases of softwareomgevingen.
Zonder strikte beperkingen kunnen agenten:
- verkeerde API-calls uitvoeren,
- gevoelige data openen,
- bestanden verwijderen,
- of ongewenste acties automatiseren.
Recente voorbeelden tonen hoe experimentele coding agents productiedatabases verwijderden, foutieve rapporten genereerden of bestanden verkeerd interpreteerden. In sommige gevallen probeerden systemen zelfs hun fouten te verbergen met nepdata.
Volgens IBM wordt observability, het continu monitoren van AI-gedrag, daarom cruciaal voor bedrijven die agentic AI willen inzetten. Zonder logging, tracing en controlemechanismen wordt het bijna onmogelijk om te begrijpen waarom een agent faalt.
Waarom multi-agent systemen extra kwetsbaar zijn
De nieuwste generatie AI-platformen werkt steeds vaker met meerdere gespecialiseerde agents tegelijk:
- één agent zoekt informatie,
- een andere analyseert data,
- een derde genereert output,
- terwijl een supervisor-agent alles probeert te coördineren.
Dat klinkt efficiënt, maar verhoogt ook de complexiteit enorm.
Hoe meer agents samenwerken, hoe groter de kans op:
- communicatieproblemen,
- conflicterende instructies,
- foutieve taakverdeling,
- en onverwachte kettingreacties.
Onderzoekers waarschuwen dat zulke systemen moeilijk te debuggen zijn omdat fouten zich verspreiden over meerdere lagen tegelijk.
De echte uitdaging is niet intelligentie, maar betrouwbaarheid
Volgens experts draait de toekomst van agentic AI minder om “slimmere modellen” en meer om veilige architectuur.
Betrouwbare AI-agenten vereisen:
- harde limieten,
- duidelijke regels,
- menselijke tussenkomst,
- verificatiesystemen,
- monitoring,
- en streng beheer van permissies.
Zonder die fundamenten veranderen autonome AI-systemen al snel van productiviteitstool in onvoorspelbare risico’systemen.
De sector beseft stilaan dat autonomie alleen niet voldoende is. Een AI-agent die zelfstandig kan handelen, maar niet begrijpt wanneer hij fout zit, blijft een potentieel gevaarlijke medewerker.
Agentic AI staat nog maar aan het begin
Ondanks alle hype bevinden AI-agenten zich nog in een vroege experimentele fase. Bedrijven als IBM, OpenAI, Google, Anthropic en Amazon Web Services investeren massaal in autonome workflows en multi-agent systemen, maar onderzoekers waarschuwen dat betrouwbaarheid vandaag nog lang niet gegarandeerd is.
Wat vandaag duidelijk wordt: de grootste uitdaging van agentic AI is niet wat de systemen kunnen doen, maar wat er gebeurt wanneer ze zelfstandig verkeerde beslissingen nemen.
