De nieuwe topman van Microsoft’s AI-divisie, Mustafa Suleyman, heeft opgemerkt wat velen in de techwereld nauwelijks hardop durven zeggen: de kans dat kunstmatige intelligentie ooit een existentiële bedreiging voor de mensheid kan worden, is bijna absoluut. En als die risico’s verder escaleren, zegt hij dat Microsoft bereid is om de stekker uit AI-ontwikkeling te trekken — iets wat tot voor kort ondenkbaar leek.
Suleyman trad begin 2024 toe tot Microsoft nadat hij DeepMind en Inflection mede had opgericht, en is sindsdien verantwoordelijk voor producten zoals Copilot en andere AI-projecten. Zijn waarschuwing komt op een moment dat AI-investeringen miljarden kosten en tegelijkertijd vragen oproepen over veiligheid, maatschappelijke impact en rendement.
|
Microsoft might wave the white flag on AI to protect humanityEven as Microsoft AI CEO Mustafa Suleyman advocates for humanist superintelligence, the executive recently indicated that the company will pull the plug on the technology if it becomes a threat to humanity. |
“Bijna absolute kans” op catastrofe — Serieuzere toon dan ooit
In gesprekken met Bloomberg benadrukte Suleyman dat Microsoft niet klakkeloos zal blijven doorgaan op de huidige koers. Hij gebruikte woorden als dat de kans op “existentiële ondergang” — oftewel het scenario waarin AI de controle dreigt over te nemen of op andere wijze rampzalig voor de mensheid kan worden — bijna absoluut is als geen robuuste veiligheidsmaatregelen worden ingebouwd.
Deze uitspraak markeert een opvallend scherpe toon uit één van ’s werelds machtigste technologiebedrijven. Waar veel tech-CEO’s focussen op innovatie en marktaandeel, lijkt Suleyman de gevaren van de snel evoluerende technologie nu expliciet in het licht te zetten.
Humanist superintelligentie: Een nieuwe aanpak
In plaats van mee te racen in wat sommige experts noemen een ‘AI-race naar de top’, pleit Suleyman voor wat hij noemt humanist superintelligence: AI die expliciet ontworpen wordt om menselijke belangen centraal te stellen. Dit vereist dat systemen niet alleen krachtiger worden, maar ook veiliger, controleerbaar en ethisch verantwoord.
Microsoft AI Chief Warns of Superintelligence RisksMicrosoft (MSFT, Financials) is taking a cautious stance on the race toward superintelligence, with the head of its artificial intelligence unit warning that the technology poses significant risks if not carefully controlled.Mustafa Suleyman, who leads Microsoft's AI efforts, said superintelligence… |
Microsoft heeft onlangs zelfs een nieuw team opgezet dat zich richt op dit soort AI, terwijl het bedrijf de rechten om geavanceerde AI-modellen te ontwikkelen verder uitbreidde buiten haar samenwerking met OpenAI.
Risico’s groter dan alleen technologie
Suleyman’s waarschuwing sluit aan bij bredere academische en beleidsdiscussies over AI-risico’s. Onderzoekers en beleidsmakers wereldwijd pleiten al langer voor internationale afspraken en veiligheidskaders om te voorkomen dat superintelligente systemen zich ontwikkelen zonder voldoende controlemechanismen.
Critici zeggen vaak dat zulke waarschuwingen overdreven pessimistisch zijn, maar de almaar stijgende investeringen en de snelle evolutie van AI maken de discussie urgenter dan ooit.
Microsoft’s AI chief Mustafa Suleyman has warned that the odds of existential doom are “nearly absolute” — the company could walk away from AI if risks escalateEven as Microsoft AI CEO Mustafa Suleyman advocates for humanist superintelligence, the executive recently indicated that the company will pull the… |
Microsoft staat voor lastige keuzes
De waarschuwingen van Suleyman komen ook te midden van interne en externe druk op Microsoft: investeerders stellen vragen over de winstgevendheid van AI-strategieën, terwijl sommige producten nog niet het verwachte markttraject volgen.
Toch benadrukt Microsoft dat het bedrijf bereid is om stopknoppen te gebruiken als dat nodig blijkt om risico’s te beheersen. Die bereidheid om zelfs de ontwikkeling van geavanceerde AI stil te leggen, toont een zeldzame terughoudendheid bij één van de technologiereuzen.
|
Microsoft CEO promises to stop AI work if it threatens humanityУНН Technologies ✎ Microsoft's AI chief, Mustafa Suleyman, stated that the company aims to create a superintelligence that aligns with humanity's interests. He promised … |
Wat betekent dit voor de toekomst van AI?
Het feit dat Suleyman publiekelijk zulke sterke taal gebruikt, zou wel eens het begin kunnen zijn van een diepgaand debat: niet alleen over wat AI kan doen, maar ook over wat AI mag doen. Nu de technologische grenzen sneller verschuiven dan ooit, wordt het risico van controleverlies niet langer alleen een theoretische zorg — maar een beleidsvraagstuk met wereldwijde implicaties.
