“Je weet niet waar je eindigt”: AI-waarschuwingen in 2025

In de wereld van kunstmatige intelligentie ligt een ongekend dilemma op de loer: blijven we AI sturen, of geven we het de touwtjes volledig uit handen? Volgens chief scientist Jared Kaplan van het AI-bedrijf Anthropic staan we dichter bij dat kantelpunt dan de meeste mensen beseffen — en de consequenties daarvan kunnen enorm zijn.

Een grenssituatie bereikt

Kaplan, een van de belangrijkste denkers achter de schermen bij Anthropic, vertelde aan The Guardian dat de mensheid mogelijk al vóór 2030 voor een fundamentele keuze staat: laten we computers zichzelf verbeteren zonder menselijke tussenkomst? Dat scenario — bekend als recursive self-improvement — zou superintelligentie kunnen ontketenen.

Het idee is dat eenmaal krachtige AIs andere AIs zouden kunnen trainen die nog slimmer zijn dan zijzelf. Dit kan tot ongekende innovaties leiden, maar ook tot een situatie waarin mensen niet langer begrijpen wat de systemen doen of hoe ze te controleren zijn.

Een dubbele belofte — en een risico

Kaplan omschrijft deze periode als een moment van potentieel immense vooruitgang én enorme onzekerheid. Enerzijds kunnen ultra-slimme systemen medische doorbraken versnellen, wetenschappelijke mysteries ontcijferen of nieuwe technologische grenzen verleggen. Anderzijds is het niet duidelijk of zulke autonome systemen nog wel te sturen zijn — en wat er gebeurt als ze dat niet zijn.

Hij stelt: “Je weet niet waar je eindigt.” Die simpele zin vat de existentiële spanning samen: we staan op het punt iets te doen dat misschien onze beste vriend óf onze grootste bedreiging wordt.

Kaplan staat niet alleen

Deze waarschuwing sluit aan bij een bredere discussie binnen de AI-gemeenschap. Sommige experts schatten de kans dat AI een catastrofaal effect heeft op de mensheid niet als verwaarloosbaar — in eerdere interviews spraken andere AI-denkers over percentages die variëren van een kleine maar betekenisvolle kans tot veel hogere risico’s.

Bijvoorbeeld, de term p(doom) wordt gebruikt om precies te kwantificeren hoe waarschijnlijk iemand denkt dat AI een verwoestend einde aan de menselijke beschaving kan maken. Zelfs binnen grote techbedrijven wordt deze statistiek serieus besproken.

Meer dan sciencefiction — echte keuzes, echte risico’s

Critici wijzen erop dat sommige doemscenario’s speculatief blijven, en dat huidige AI-systemen nog lang niet beschikken over de autonome intelligentie die in deze scenario’s centraal staat. Het debat draait dus niet alleen om technologie, maar ook om wat we geloven dat technologie zal worden.

AI Is an Existential Threat--Just Not the Way You Think Some fear that artificial intelligence will threaten humanity’s survival. But the existential risk is more philosophical than apocalyptic

Toch benadrukken Kaplan en anderen dat verstandige voorbereiding en veiligheidsonderzoek vandaag de kans op rampscenario’s kan verkleinen — en dat het nalaten daarvan onze kwetsbaarheid alleen maar vergroot.