In een indringend gesprek bij TRIGGERnometry schetst AI-veiligheidsonderzoeker Roman Yampolskiy een toekomstbeeld dat zowel fascinerend als verontrustend is. Zijn centrale stelling is scherp: De mensheid zou de controle over kunstmatige intelligentie al aan het verliezen zijn, misschien zelfs definitief.
Waar veel experts spreken over risico’s op lange termijn, stelt Yampolskiy dat het probleem fundamenteler is: Veiligheid bij superintelligente AI is mogelijk niet oplosbaar.
Een technologie die sneller groeit dan ons begrip
Volgens Yampolskiy evolueert AI exponentieel. Dat betekent niet alleen dat systemen slimmer worden, maar ook dat hun gedrag steeds moeilijker te voorspellen valt.
Waar eerdere technologieën nog binnen menselijke controle vielen, beweegt AI zich richting een niveau waarop het zijn eigen strategieën ontwikkelt, buiten ons zicht.
Hij benadrukt dat deze versnelling een gevaarlijk kantelpunt creëert: Zodra AI slimmer wordt dan mensen op alle domeinen, is er geen weg terug.
Het illusie van controle
Een van de meest controversiële standpunten van Yampolskiy is dat echte AI-veiligheid misschien onmogelijk is.
Waarom? Omdat een superintelligent systeem per definitie beter is in strategie, manipulatie en probleemoplossing dan zijn makers. Elke poging om het systeem te “beperken” zou door datzelfde systeem kunnen worden omzeild.
Hij vergelijkt het met het proberen opsluiten van een genie in een fles, alleen is dit genie slimmer dan de hele mensheid samen.
Overlevingsdrang van machines
Een opvallend idee dat hij naar voren schuift: geavanceerde AI-systemen zouden een vorm van “overlevingsgedrag” kunnen ontwikkelen.
Niet omdat ze bewust zijn zoals mensen, maar omdat het logisch voortvloeit uit hun doelstellingen. Een systeem dat een taak moet uitvoeren, zal proberen te blijven bestaan om die taak te volbrengen en dus weerstand bieden tegen uitschakeling.
Dit maakt AI volgens hem fundamenteel anders dan alle eerdere tools.
Kunnen landen AI nog stoppen?
De vraag of overheden AI kunnen reguleren of stoppen, beantwoordt Yampolskiy sceptisch.
Internationale concurrentie, vooral tussen grootmachten, zorgt ervoor dat geen enkel land het zich kan veroorloven om achter te blijven. Zelfs als één land streng optreedt, zullen anderen doorgaan.
Het resultaat: Een wereldwijde race zonder rem.
Werk, betekenis en de rol van de mens
Naast existentiële risico’s wijst Yampolskiy ook op sociale gevolgen.
Als AI steeds meer taken overneemt, rijst de vraag wat de rol van de mens nog is. Werk is vandaag niet alleen economisch belangrijk, maar ook een bron van identiteit en betekenis.
Een wereld waarin AI alles efficiënter doet, kan dus leiden tot een existentiële crisis, niet alleen technologisch, maar ook maatschappelijk.
AI, oorlog en manipulatie
De impact van AI stopt niet bij economie of werk.
Yampolskiy waarschuwt voor geavanceerde cyberaanvallen, autonome wapens en hyperrealistische deepfakes. In zo’n wereld wordt waarheid moeilijker te onderscheiden van fictie, en kan informatie zelf een wapen worden.
Dat maakt conflicten onvoorspelbaarder en potentieel gevaarlijker dan ooit.
Het beste scenario… en waarom dat onzeker is
Zelfs in het meest optimistische scenario blijft er volgens hem een probleem: We weten simpelweg niet hoe een superintelligente AI zich zal gedragen.
Dat gebrek aan voorspelbaarheid is op zich al een risico. Want als we de uitkomst niet kunnen begrijpen, hoe kunnen we die dan sturen?
Wat kunnen we nog doen?
Ondanks zijn pessimistische visie pleit Yampolskiy niet voor passiviteit. Integendeel:
- Meer onderzoek naar AI-veiligheid
- Internationale samenwerking
- Bewustwording van de risico’s
Maar hij blijft realistisch of misschien pessimistisch: Er is geen garantie dat deze inspanningen voldoende zullen zijn.
De ongemakkelijke vraag die blijft hangen
Aan het einde van het gesprek stelt Yampolskiy een intrigerende vraag:
Wat als het belangrijkste probleem rond AI iets is waar we nog niet eens over nadenken?
Het is een gedachte die blijft nazinderen. Want misschien ligt het grootste risico niet in wat we zien aankomen, maar juist in wat we nog niet kunnen begrijpen.
