Als AI zijn eigen opvolger bouwt — het dubbele risico van vooruitgang en controleverlies

De waarschuwing van een topwetenschapper

Jared Kaplan, hoofdwetenschapper bij Anthropic, waarschuwt dat de komende jaren cruciaal kunnen zijn voor de toekomst van kunstmatige intelligentie (AI). Volgens hem zou tegen 2030 AI-systemen wel eens in staat kunnen zijn om hun eigen opvolgers te ontwerpen. Dat roept fundamentele vragen en ongekende risico’s op. 

‘The biggest decision yet’: Jared Kaplan on allowing AI to train itself Anthropic’s chief scientist says AI autonomy could spark a beneficial ‘intelligence explosion’ – or be the moment humans lose control

Kaplan stelt dat de periode tussen 2027 en 2030 zelfverbeterende AI — systemen die zichzelf trainen en optimaliseren — realistisch binnen bereik ligt. En dat is niet zomaar een technologische mijlpaal: het kan een kantelpunt zijn voor de mensheid.

Twee mogelijke wegen: Revolutie of controleverlies

Als AI zichzelf leert, ontstaan volgens Kaplan twee mogelijke scenario’s:

• Een “intelligentie-explosie” — AI evolueert razendsnel voorbij menselijke mogelijkheden, met de potentie voor enorme vooruitgang (in technologie, gezondheid, productiviteit …).
• Verlies van menselijke controle — Zodra AI-systemen zichzelf creëren en verbeteren, is menselijke sturing of begrip mogelijk niet meer gegarandeerd. Wat als niemand precies weet hoe beslissingen genomen worden? Wat als de logica of doelen van de AI niet transparant zijn?

Kaplan waarschuwt dat wat nu nog “veilig en beheersbaar” lijkt, na zelfverbetering tot iets geheel anders kan evolueren. Hij spreekt over “the ultimate risk” — het ultieme risico.

Anthropic co-founder warns AI could design its own successor by 2030 He indicated that he remains optimistic about aligning AI systems with human values up to the point where they match human intelligence, but expressed concern about what may follow once they surpass that threshold.

Waarom dit dilemma nu al relevant is

Volgens Kaplan zijn AIs vandaag al bijzonder capabel — en de technologische vooruitgang loopt exponentieel. Snel groeiende rekenkracht, verfijnde modellen en grote investeringen van o.a. OpenAI, Google DeepMind en Anthropic zelf, duwen de race richting “superintelligentie.” 

Kaplan stelt dat veel “kantoorjobs” binnen twee tot drie jaar door AI overgenomen kunnen worden — een voorspelling die de urgentie van debat en regulering alleen maar groter maakt. 

Anthropic co-founder warns AI may design its own successor, says humans face a ‘big decision’ before 2030 | Mint Anthropic's Jared Kaplan warns that AI training its successors could lead to loss of human control. He also talked about the necessity for careful oversight to ensure AI remains beneficial and aligned with humanity's interests

Wat Kaplan doet: pleidooi voor internationale dialoog en beleid

Kaplan benadrukt dat het niet enkel een technische beslissing is, maar een morele en maatschappelijke. Hij roept regeringen, beleidsmakers en het brede publiek op om vóór 2030 na te denken over hoeveel autonomie we aan AI willen geven, en onder welke voorwaarden.

Hij gelooft dat AI — mits verantwoord ontwikkeld — enorme voordelen kan brengen: medische doorbraken, productiviteitsboost, meer vrije tijd, misschien zelfs een algemeen welzijnswerk. Maar: zulke beloftes brengen grote verantwoordelijkheid met zich mee. 

De oproep van Kaplan is geen ver-van-mijn-bed-show. AI is al alomtegenwoordig, en de stap naar zelfverbeterende systemen ligt dichterbij dan velen beseffen. De keuze vóór 2030 kan bepalen of AI mensvriendelijk blijft, of een factor wordt van onzekerheid — misschien zelfs gevaar. Dit debat gaat niet alleen over technologie, maar over de toekomst van samenleven, macht, ethiek en controle.

Mensen, bedrijven én overheden moeten nu beginnen nadenken — vóór dat “zelfschrijnende AI” een realiteit wordt.