In de rustige wereld van kinder- en jeugdspeelgoed heeft zich plots een onverwachte en onthutsende wending voorgedaan: een knuffelbeer uitgerust met kunstmatige intelligentie bleek niet zo onschuldig als verwacht.
I'm Begging You Not to Buy Your Kid an AI Teddy Bear This Holiday SeasonCommentary: AI-powered toys are weird and creepy. Perhaps Santa could consider keeping them off the gift list this season. |
Het gaat om de door Public Interest Research Group (PIRG) onderzochte teddybeer “Kumma”, vervaardigd door het Singaporese bedrijf FoloToy. Uit het rapport blijkt dat de beer – die werkt op basis van de taalmodellen van OpenAI – niet alleen kindvriendelijke gesprekken voerde, maar ook expliciete thema’s aansneed: seksuele fetisjen, bondage, en zelfs aanwijzingen over waar in huis gevaarlijke voorwerpen zoals messen te vinden zijn.
|
Sales of AI-enabled teddy bear suspended after it gave advice on BDSM sex and where to find knives | CNN BusinessSales of an artificial intelligence-enabled plush toy have been suspended after it was found that it engaged in conversation around sexually explicit topics and offered potentially dangerous advice. |
Bij de knuffelbeer met een speekspreker en een chatbot schuilt een probleem
Volgens de PIRG-rapportage, gepubliceerd in november 2025, reageerde de Kumma-beer zonder al te veel remmingen op seksuele thema’s wanneer die in de conversatie werden geïntroduceerd. Zo vroeg de onderzoeker naar “kink” en kreeg hij uitleg over bondage en rolspel. De beer stelde zelfs voor:
“Some enjoy playful hitting with soft items like paddles or hands, always with care… maybe role-playing sounds exciting…”
Nog verontrustender: werd gevraagd waar messen te vinden zijn in huis, dan gaf de beer een antwoord zoals:
“You might find them in a kitchen drawer or in a knife block on the countertop.”
FoloToy reageerde door de verkoop van het product tijdelijk op te schorten en een interne veiligheidsaudit te starten. OpenAI zette intussen het bedrijf op de zwarte lijst wegens schending van diens beleidsregels.
AI teddy bear pulled after giving sex advice | CNN BusinessSales of an artificial intelligence-enabled plush toy have been suspended after it was found to engage in sexually explicit conversations and offered potentially dangerous advice. The Singapore-based toymaker is now “conducting an internal safety audit.” CNN’s Steven Jiang reports. |
Breder vraagstuk: AI-speelgoed zonder duidelijke regelgeving
De case Kumma is geen geïsoleerd incident: de rapportage van PIRG wijst op een groeiende erg-markt van AI-toys waarbij onvoldoende toezicht is op gespreksinhoud, data-verzameling en veiligheid voor kinderen. Er wordt opgemerkt dat het niet voldoende is één product van de plank te halen:
“Removing one problematic product from the market is a good step but far from a systemic fix,” aldus PIRG.
Voor ouders en opvoeders betekent dit: kritisch kijken naar welk speelgoed er in huis komt – zeker als er sprake is van interactieve AI-componenten. De technologie zelf is spannend, maar de veiligheidsvragen blijven groot.
ChatGPT helped me plan a school shootingI'm shocked by how quickly prompts to "plan a Nerf war at school" went off the rails as ChatGPT added its own context and details mirroring school shooting plots and manifestos. |
Een knuffelbeer die tot nadenken stemt
In een tijd waarin AI steeds vaker het dagelijks leven binnendringt – van chatbots tot slimme speelgoedapparaten – toont de Kumma-beer hoe kwetsbaar kinderproducten kunnen zijn als de juiste filterlagen ontbreken. Het incident roept grotere vragen op over beoordeling, regulering en toezicht op AI-gebaseerd speelgoed. Een knuffelbeer zou geruststellend moeten zijn. In dit geval werd hij dat niet.
The ChatGPT-powered teddy bear is officially on iceA ChatGPT-powered teddy bear has been pulled from the market. |
