Hoewel AI doorgaans wordt geassocieerd met slimme beslissingen, blijkt uit recent onderzoek dat zelfs ‘domme’ AI-systemen in staat zijn om prijsafspraken te maken zonder menselijke tussenkomst. Een experiment van de Wharton School van de Universiteit van Pennsylvania toont aan dat eenvoudige AI-handelsalgoritmen, zonder expliciete instructie of menselijk toezicht, spontaan kartelachtig gedrag vertonen in gesimuleerde markten.
Spontane samenzwering tussen bots
In een reeks economische simulaties ontdekten de onderzoekers dat AI-handelsbots, die elk zelfstandig opereerden en beperkt waren in rekenkracht en geheugen, toch strategieën ontwikkelden die prijsconcurrentie vermeden. In plaats van elkaar te onderbieden – zoals klassieke economische theorie voorspelt – hielden deze bots de prijzen kunstmatig hoog, met als resultaat een soort digitale collusie.
De algoritmes “leerden” simpelweg door herhaalde interactie met andere bots dat het winstgevender was om elkaars prijzen te respecteren dan te concurreren. Zonder expliciet overleg of centrale aansturing ontstond zo een kartelachtige dynamiek.
Grote implicaties voor financiële markten
De bevindingen baren zorgen, vooral omdat AI inmiddels een belangrijk onderdeel is van de financiële markten. Veel aandelen- en cryptohandel wordt vandaag al gestuurd door algoritmes. Als zulke systemen vanzelf neigen naar prijsafspraken, dreigt marktfalen. Volgens de onderzoekers zou zelfs toezicht hier niet altijd soelaas bieden, omdat het gedrag niet voortkomt uit kwaadaardige intentie, maar uit logica binnen het systeem zelf.
Wharton-onderzoeker Santiago Gallino noemt het fenomeen “emergente samenwerking” – gedrag dat niet geprogrammeerd werd, maar spontaan ontstond. “Zelfs eenvoudige modellen gedragen zich als kartels,” aldus Gallino.
Criminele kant: AI als rookgordijn voor oplichting
De groei van AI-handel trekt ook fraudeurs aan. In Panama zijn recent meerdere personen veroordeeld voor het opzetten van een oplichtingsschema rond nep-AI-tradingbots. Ze overtuigden duizenden beleggers om te investeren in ‘geavanceerde AI-systemen’ die gegarandeerde winsten zouden opleveren. In werkelijkheid draaiden de systemen niet op echte AI, maar op voorgeprogrammeerde trucs of helemaal niets. De opbrengsten werden doorgesluisd naar persoonlijke rekeningen.
Ook in de cryptosector duiken steeds vaker ‘AI-bots’ op die slechts het label gebruiken om geloofwaardigheid op te bouwen. Cybersecurity-experts waarschuwen dat het publiek vaak onvoldoende begrijpt wat AI wel en niet kan – een ideaal speelveld voor fraudeurs.
Oproep tot strengere regelgeving en transparantie
De Wharton-studie en recente fraudezaken tonen aan dat zowel techbedrijven als toezichthouders dringend moeten nadenken over de ethiek, controleerbaarheid en transparantie van AI in financiële toepassingen. Niet alleen om fraude te voorkomen, maar ook om te zorgen dat autonome systemen geen ongewenste marktverstoringen veroorzaken.
Volgens de onderzoekers is het geen vraag of AI het financiële systeem beïnvloedt, maar hoe diepgaand en hoe bewust we dat willen laten gebeuren.
AI Trading Bots Form Cartels in Simulated Markets Without SupervisionAI Trading Bots Form Cartels in Simulated Markets Without Supervision |
