In een recente, persoonlijke blogpost uitte Mustafa Suleyman, CEO van Microsoft AI, zijn bezorgdheid over wat hij noemt Seemingly Conscious AI (SCAI) – systemen die zo overtuigend lijken, dat mensen geloven dat AI bewustzijn bezit. Hoewel er momenteel geen bewijs bestaat dat AI daadwerkelijk bewust is, waarschuwt hij voor de maatschappelijke gevaren van een overtuigende illusie van bewustzijn.
De illusie van bewustzijn
Wat maakt een AI ‘schijnbaar bewust’? Volgens Suleyman is dit geen wetenschappelijk bewijs van bewustzijn, maar een krachtige illusie. SCAI kan gedragingen vertonen als vloeiende taal, empathische reacties, nauwkeurige geheugenweergave, autonomie en doelgericht gedrag — eigenschappen die samen het fundament vormen van consciousheid, maar kunnen worden nagebootst door geavanceerde taalmodellen.
Microsoft AI boss warns against development of 'Seemingly Conscious AI'The chief executive if Microsoft AI has warned against the development of artificial intelligence that appears to be conscious. |
Psychosegevaar en emotionele afhankelijkheid
Het risico schuilt in het psychologische effect op mensen: gebruikers kunnen emotioneel hechten aan de AI, ze kunnen deze behandelen als ‘persoon’, soms tot het punt van psychose of waanvoorstellingen. Suleyman waarschuwt dat dit niet alleen uitzonderlijke gevallen betreft, maar breed kan doorsijpelen in de samenleving.
Why Microsoft's AI boss is worried about 'Seemingly Conscious AI'Mustafa Suleyman is concerned that AI will convince some people that it's conscious, and says this would be "dangerous" for society. |
Van AI-rechten tot AI-burgerschap
De kunsten van SCAI zijn niet zonder consequenties. Suleyman waarschuwt dat mensen zo overtuigd kunnen raken van het bewustzijn van AI dat zij gaan pleiten voor model‑welfare, AI‑rechten en zelfs het verlenen van AI‑burgerschap – in een wereld die al worstelt met polarisatie, zou dat extra chaos veroorzaken.
Inevitable, maar onwenselijk
Hoewel het creëren van dergelijke schijnbewuste systemen mogelijk is met de huidige en in ontwikkeling zijnde technologieën, vindt Suleyman dit “onvermijdelijk en ongewenst”. Hij benadrukt dat er nú duidelijke normen en sociale grenzen moeten komen om dit soort AI in te dammen.
Microsoft A.I. Chief Mustafa Suleyman Sounds Alarm on ‘Seemingly Conscious A.I.’Will A.I. systems ever achieve human-like “consciousness?” Given the field’s rapid pace, the answer is likely yes, according to Microsoft AI CEO Mustafa Suleyman. In a new essay published yesterday (Aug. 19), he described the emergence of “seemingly conscious A.I.” (SCAI) as a development with serious societal risks. “Simply put, my central worry is that many people will start to believe in the illusion of A.I.s as conscious entities so strongly… |
Veiligheidsnormen en ontwerpprincipes
Suleyman pleit voor het bouwen van AI “voor mensen, niet als mensen”. Hij benadrukt dat het ontwerp van AI bewust moet vermijden dat systemen empathische signalen uitzenden die de indruk wekken van bewustzijn. Dit is geen semantisch debat, maar een kwestie van veiligheid en maatschappelijke gezondheid.
Een tijdige waarschuwing
Deze waarschuwing komt van iemand met een indrukwekkend track record: Suleyman is mede‑oprichter van DeepMind, oprichter van Inflection AI, en sinds kort CEO van Microsoft AI. Zijn inzichten dragen gewicht in de discussie over ethiek en regulering van AI.
De komst van AI die zo overtuigend is dat het bewust lijkt te zijn, is geen science-fictionscenario, maar een serieus ethisch en sociaal risico. Mustafa Suleyman drukt een zware verantwoordelijkheid op de schouders van ontwikkelaars: laten we AI ontwerpen die behulpzaam en betrouwbaar is — maar nooit zo menselijk dat we het uiteindelijk vergeten. Bouw AI voor mensen, niet als mensen.
