Gouverneur Newsom in gesprek met Tristan Harris en Aza Raskin over de toekomst van kunstmatige intelligentie en de noodzaak van menselijke controle.
De opmars van kunstmatige intelligentie (AI) is niet langer een toekomstscenario uit een sciencefictionfilm; het is de realiteit van vandaag. Maar zijn we er wel klaar voor? In een diepgaand en onthullend gesprek nam de Californische gouverneur Gavin Newsom de proef op de som. Hij ging om de tafel met Tristan Harris en Aza Raskin, de drijvende krachten achter het Center for Humane Technology. Samen bogen zij zich over de razendsnelle opkomst van AI en de immense uitdagingen die deze technologie met zich meebrengt voor zowel overheden als individuen.
De lessen uit het socialmediatijdperk
Het vertrekpunt van de discussie snijdt diep: hebben we wel geleerd van het verleden? Harris en Raskin trekken een duidelijke parallel met de opkomst van sociale media. Destijds keek de wereld passief toe hoe algoritmes onze aandacht kaapten, polarisatie aanwakkerden en de mentale gezondheid van een generatie ontwrichtten. De waarschuwing is helder: bij AI mogen we niet dezelfde fouten maken. De transitie naar Artificial General Intelligence (AGI) (systemen die het menselijk denkvermogen op bijna alle vlakken evenaren of overtreffen) voltrekt zich in een moordend tempo. De vraag is niet óf de wereld verandert, maar hoe snel we de controle verliezen als er nu niet wordt ingegrepen.
De strijd om de code: Open source versus commerciële belangen
Een van de belangrijkste pijnpunten die tijdens het gesprek blootgelegd worden, is de ethische splitsing in de techwereld. Aan de ene kant staan de 'open source'-modellen, die voor iedereen toegankelijk zijn, en aan de andere kant de streng afgeschermde, commerciële systemen van techgiganten. Welke prikkels drijven de miljardeninvesteringen in AGI? Het antwoord is vaak winstbejag en de angst om achter te blijven in de mondiale tech-wedloop. Dit roept fundamentele vragen op over AI-veiligheid. Want als de evolutie van deze systemen sneller gaat dan het menselijk vermogen om ze te begrijpen, wie garandeert dan dat de veiligheidsvoorzieningen standhouden?
Wetgeving en de rol van Silicon Valley
Kan de politiek de tech-evolutie wel bijbenen? Gouverneur Newsom en zijn gasten uiten hun zorgen over de vraag of de huidige instituten wel over de juiste kennis en middelen beschikken om AI effectief te reguleren. De dynamiek is complex: hoe stimuleer je innovatie zonder de grip op de veiligheid te verliezen? Als bakermat van de moderne tech-industrie rust er een loodzware verantwoordelijkheid op de schouders van Californië. De staat moet het voortouw nemen in het ontwerpen van wetgeving die niet remt, maar beschermt. De impact op de arbeidsmarkt is immers nu al voelbaar en ook de integriteit van verkiezingen en het politieke landschap staat door de komst van deepfakes en AI-manipulatie zwaar onder druk.
Van apocalyps naar een mensgerichte toekomst
Ondanks de scherpe waarschuwingen is het eindoordeel van Harris en Raskin niet louter negatief. In hun nieuwe documentaire, The AI Doc: Or How I Became an Apocaloptimist, introduceren ze een term die de lading dekt: de 'apocaloptimist'. Het debat rondom AI moet volgens hen over méér gaan dan alleen de existentiële risico’s. Het gaat erom hoe we de technologie kunnen inzetten voor een pro-menselijke toekomst. De sleutel ligt in het herontwerpen van onze systemen, zodat innovatie de mensheid dient, in plaats van haar te overvleugelen. De toekomst van AI is nog niet in steen gebeiteld, het is aan de beleidsmakers en de samenleving van nu om te bepalen welke richting we opgaan.
