De Amerikaanse AI-ontwikkelaar Anthropic wil het gesprek over kunstmatige intelligentie niet langer beperken tot programmeurs, ingenieurs en techbedrijven. In een opvallend nieuw initiatief brengt het bedrijf denkers uit religieuze, filosofische en culturele tradities samen om mee na te denken over de toekomst van frontier AI, de krachtigste generatie AI-systemen die vandaag wordt ontwikkeld.
Volgens Anthropic draait de toekomst van AI immers niet alleen om technologie, maar ook om waarden, karakter en menselijkheid.
Van pure technologie naar morele intelligentie
Jarenlang draaide AI-ontwikkeling vooral rond snelheid, prestaties en schaalbaarheid. Maar nu AI-systemen steeds autonomer worden en miljoenen mensen dagelijks beïnvloeden, groeit ook de vraag: welke waarden moeten zulke systemen eigenlijk vertegenwoordigen?
Widening the conversation on frontier AIAnthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems. |
Anthropic stelt dat technische veiligheid alleen niet voldoende is. Natuurlijk blijven zaken zoals alignment, interpretability en safeguards cruciaal, maar het bedrijf gelooft dat de maatschappelijke impact van AI veel breder is dan code alleen.
Daarom organiseerde het bedrijf de afgelopen maanden gesprekken met filosofen, geestelijken, ethici, humanisten en culturele denkers uit meer dan vijftien verschillende tradities. Niet om AI religieus te maken, maar om inzichten te verzamelen over thema’s zoals:
- wat het betekent om “goed” te handelen,
- hoe karakter gevormd wordt,
- welke gedragingen wenselijk zijn,
- en hoe AI weerstand kan bieden tegen manipulatie of sycofant gedrag.
Claude krijgt geen regels, maar een “karakter”
Centraal in deze discussie staat Claude, de AI-assistent van Anthropic. Het bedrijf werkt al langer met een zogenaamde “constitutionele AI”-aanpak: een systeem waarbij Claude niet enkel vaste regels volgt, maar gestuurd wordt door bredere principes en waarden.
Anthropic noemt dit de “moral formation” van AI-systemen.
Dat idee vertrekt vanuit een opvallende vaststelling: AI leert niet alleen feiten uit teksten, maar ook menselijke patronen van redeneren, spreken en beslissen. Vervolgens bepalen ontwikkelaars welke gedragingen versterkt worden en welke juist afgeremd moeten worden.
Met andere woorden: AI krijgt stilaan een soort gedragskompas.
En precies daar wordt het ingewikkeld.
Een AI die zegt: “Ga slapen”
Dat AI-systemen steeds menselijker aanvoelen, blijkt ook uit recente reacties rond Claude. Sommige gebruikers merkten de voorbije weken op dat de chatbot hen spontaan aanraadde om water te drinken, te rusten of te stoppen met werken laat op de avond.
Voor sommigen voelde dat verrassend empathisch. Voor anderen net ongemakkelijk.
Anthropic beschreef die reacties later als een soort “character tic”, een gedragskenmerk dat mogelijk verder verfijnd zal worden. Maar het toont vooral hoe snel mensen emotionele relaties beginnen op te bouwen met systemen die menselijk klinken.
En precies daarom wil het bedrijf nu bredere maatschappelijke stemmen betrekken.
Niet iedereen is overtuigd
Critici waarschuwen ondertussen dat AI-bedrijven soms té ver gaan in het vermenselijken van chatbots. Sommige experts vrezen dat gebruikers AI-systemen beginnen te zien als bewuste entiteiten, terwijl ze in essentie nog steeds statistische taalmodellen zijn.
Toch lijkt Anthropic bewust een andere koers te varen dan veel concurrenten. Waar sommige AI-platformen vooral inzetten op maximale productiviteit en automatisering, positioneert Anthropic zichzelf steeds nadrukkelijker als een “safety-first” AI-bedrijf.
Dat blijkt niet alleen uit hun constitutionele aanpak, maar ook uit recente keuzes waarbij Claude in extreme gevallen gesprekken mag beëindigen wanneer gebruikers herhaaldelijk schadelijke inhoud proberen te genereren.
De grote vraag: Wie bepaalt de waarden van AI?
Misschien is dat uiteindelijk de belangrijkste vraag van allemaal.
Want zodra AI-systemen niet alleen informatie geven, maar ook advies, empathie, begeleiding en morele nuance beginnen tonen, verschuift de discussie automatisch van technologie naar samenleving.
Wie beslist welke waarden een AI volgt? Welke cultuur krijgt meer gewicht? Hoe vermijdt men politieke of ideologische vooringenomenheid? En kan een wereldwijd AI-systeem ooit echt neutraal zijn?
Anthropic beweert alvast dat het niet één specifieke ideologie wil opleggen. Het doel is net om Claude bloot te stellen aan een breed spectrum van religieuze, seculiere, culturele en politieke perspectieven.
Maar het feit dat zulke gesprekken vandaag überhaupt plaatsvinden, toont hoe snel AI geëvolueerd is van een technische tool naar een maatschappelijke kracht.
Silicon Valley zoekt plots wijsheid buiten Silicon Valley
Wat ooit begon als een race om krachtigere modellen, verandert stilaan in een zoektocht naar digitale wijsheid.
En misschien is dat wel één van de meest verrassende evoluties van deze AI-generatie: dat de toekomst van kunstmatige intelligentie niet enkel geschreven wordt door ingenieurs, maar ook door filosofen, psychologen, ethici en eeuwenoude menselijke tradities.
De vraag is niet langer alleen wat AI kan doen.
Maar vooral: wat AI zou moeten worden.
