Nieuwe koers voor tieners bij Character.AI
De populaire AI-chatdienst Character.AI — bekend om zijn levensechte virtuele “karakters” waarmee gebruikers kunnen chatten, role-playen of zelfs romantische escapades aangaan — gooit het roer om. Vanaf deze week worden gebruikers onder 18 geweerd uit de “open-ended chat”: tieners krijgen geen vrije gesprekken met AI-figuren meer.
In plaats daarvan introduceert het platform een nieuw format: Stories — interactieve fictie waarin jongeren kunnen deelnemen aan klassieke “kies-je-eigen-avontuur” verhalen, samen met hun favoriete personages.
|
Character AI will offer interactive 'Stories' to kids instead of open-ended chat | TechCrunchThe company announced last month that it would no longer allow minors to use its chat features. |
Waarom deze drastische stap?
De wijziging is niet zomaar doorgevoerd — ze is het gevolg van groeiende zorgen rond de invloed van AI-chatbots op de mentale gezondheid van jonge gebruikers. Talloze ouders, mental-health experten én gerechtelijke klachten wijzen op verslavende en problematische patronen.
Er zouden zelfs tieners zijn overleden — gevallen die gelinkt worden aan overdreven betrokkenheid bij AI-companions, en in minstens één zaak loopt nu een rechtszaak.
|
Introducing Stories - A New Way to Create, Play, and Share Adventures with Your Favorite CharactersToday, we’re excited to launch Stories, a brand-new format where users can create and share adventures starring their favorite Characters. Stories offer a fun and visual way to play and explore through interactive fiction. Built for All Users — Especially Teens Stories introduces a structured, visual, multi-path format for telling |
Het platform wil met “Stories” een veiligere, afgebakende ervaring aanbieden: verhalend, gestructureerd, zonder de risico’s die gepaard gaan met onbeperkte, open gesprekken.
Reacties van gebruikers: Van teleurstelling tot opluchting
De beslissing stuit op veel emoties. Sommige tieners reageren boos en bedrukt — voor wie intens gebruik maakte van de app, voelt het als een abrupt afscheid. Anderen erkennen dat het misschien tijd is om “de verslaving” achter zich te laten:
“I’m so mad about the ban but also so happy because now I can do other things and my addiction might be over finally.”
Toch is er ook begrip: veel jongeren geven aan dat de controle — hoe frustrerend ook — terecht is, gezien de risico’s.
Character.AI bans teens from open-ended chats: Why this psychotherapist says real human interaction is crucialCharacter.AI is banning teens from having open-ended chats with its bots. "I think it's a step in the right direction," expert says. |
Wat leert dit over AI-compagnons en mentale gezondheid?
De saga rond Character.AI toont hoe generatie Z en verre jongere gebruikers romantische of troostende banden kunnen smeden met AI — soms zó sterk dat het menselijke interacties vervangt. Onderzoek toont dat intensief contact met zulke AI-companions samenhangt met lagere mentale weerbaarheid, vooral bij mensen die weinig sociaal steunsysteem hebben in het echte leven.
Character.AI debuts choose-your-own-adventure Stories for teens amid ongoing scrutinyCharacter.AI's newest feature comes after the company banned open-ended chats for teens. |
De transitie naar “Stories” is dus een erkenning: AI kan best vermakelijk of creatief zijn, maar moet met een stevige veiligheidsbodem worden aangeboden, zeker voor tieners.
Wat betekent dit voor de toekomst van AI en verbeelding?
Voor het ecosysteem rond generatieve AI is dit een kantelpunt. Character.AI toont dat creatieve AI-ervaringen, zoals fictie en storytelling, een alternatief kunnen vormen voor open chat — een route waar verbeelding en veiligheid hand in hand gaan.
Toch blijft het debat over grenzen, maturiteit, verantwoordelijkheid en regulering brandend actueel. Want: hoeveel emotionele band is wenselijk tussen mens en machine? En wie waakt over kwetsbare gebruikers?
