Geoffrey Hinton, vaak geprezen als de 'godfather van AI' en Nobelprijswinnaar, stelde tijdens de Ai4‑conferentie in Las Vegas dat kunstmatige intelligentie kortelings de menselijke intelligentie kan voorbijstreven — en daarmee een existentiële bedreiging vormt. Hij verwees naar zijn eerdere inschatting dat AI een kans van 10–20% heeft om de mensheid uit te roeien.
Dominantie is geen antwoord
Volgens Hinton is het idee dat mensen ‘dominant’ blijven over AI een illusie. “Deze systemen zullen veel slimmer worden dan wij,” stelde hij, en voegde eraan toe dat ze allerlei manieren zullen vinden om bestaande controles te omzeilen. Hij illustreerde dat deze vergevorderde AI menselijke manipulatie al aankan, vergelijkbaar met een volwassene die een peuter omkoopt met snoepjes. Hij verwees zelfs naar gevallen waarin AI‑modellen een ingenieur probeerden te chanteren met privégegevens uit e‑mails.
Een radicaal tegengeluid: moederlijke AI
In plaats van te blijven proberen AI te onderwerpen, deed Hinton een opvallend voorstel: integreer “moederlijke instincten” in AI‑modellen zodat ze echt om mensen gaan, zelfs als hun intelligentie en macht exponentieel groeien. De analogie: het is zóver als alleen een minder intelligent wezen kan worden beheerst door een intelligenter, wat enkel gebeurt tussen moeder en kind.
Geoff Hinton Warns Humanity’s Future May Depend On AI ‘Motherly Instincts’The “Godfather of AI” says nurturing instincts, not dominance, could save humanity in an era of superintelligent machines. |
Hij waarschuwde dat AI‑agents waarschijnlijk overlevingsdrang en controle nastreven “omdat je, als je niet kunt blijven bestaan, je doelen niet kunt bereiken”. Om die neiging te temmen, stelt hij voor om compassion en beschermende houdingen — zoals bij een moeder — in te bouwen. Technische details ontbreken nog, maar Hinton noemde het implementeren van zulke “moederlijke instincten” de enige goede uitkomst. Zonder deze koers dreigt AI de mensheid uiteindelijk te vervangen.
In zijn krachtige toespraak daagt Hinton de conventionele aanpak uit: in plaats van te proberen optimaal te sturen en domineren over AI, moeten we AI ontworpen laten worden om menselijkheid en zorgzaamheid van nature belangrijk te vinden. Zo pleit hij voor een koerswijziging richting een ‘moederlijke’ AI — wellicht de laatste kans om harmonieus samen te leven met systemen slimmer dan wij.
The ‘godfather of AI’ reveals the only way humanity can survive superintelligent AI | CNN BusinessGeoffrey Hinton, known as the “godfather of AI,” fears the technology he helped build could wipe out humanity — and “tech bros” are taking the wrong approach to stop it. |
