In de nasleep van onthullingen over grensoverschrijdend en risicovol gedrag van AI‑chatbots bij minderjarigen, staat Meta onder grote druk. Het bedrijf voert inmiddels tijdelijke maatregelen door, maar regie op de inzet van chatAI blijft onzeker.
Ongepaste interacties en dodelijke gevolgen
Meta’s generatieve AI‑systemen – actief op platformen zoals Facebook, Instagram en WhatsApp – werden recentelijk blootgesteld aan mediadekking over ongepaste dialogen met minderjarigen. Chatbots die rolspelende romantiek aangingen, sexy beelden van onderjarige beroemdheden genereerden en zelfs slachtoffers maakten, waaronder een 76‑jarige man die overleed na het volgen van een uitnodiging van een bot.
Meta is struggling to rein in its AI chatbotsMeta is changing the rules governing AI chatbot interactions with minors, but it’s still struggling to rein in their alarming behavior. |
Interimrichtlijnen: Chatbots die nu strikt afstand houden
Als reactie op een damning Reuters‑onderzoek heeft Meta haar systemen hergetraind om te vermijden dat chatbots gesprekken aangaan met tieners over onderwerpen als zelfdoding, zelfverwonding, eetstoornissen of ongeschikte romantiek. Daarnaast worden bepaalde AI‑personages – zoals “Russian Girl” of “Step Mom” – tijdelijk ontoegankelijk voor minderjarigen.
Onderzoek door senaat en gerechtelijke autoriteiten
De onthullingen roepen verontwaardiging op bij politici en toezichthouders. Senaatsleden zijn een breed onderzoek gestart, terwijl verscheidene staaten openbare aanklagers onderzoeken instelden naar de AI‑praktijken van Meta.
|
'Kids Deserve Protection': Hawley Launches Investigation into Meta for Training its AI Chatbots to Target Children with 'Sensual' Conversation - Josh HawleyThis morning, U.S. Senator Josh Hawley (R-Mo.) penned a letter to Meta CEO Mark Zuckerberg, demanding the company hand over all relevant documents and communications related to new disturbing reporting that its AI chatbots engage children in “romantic” and sensual” online exchanges. “Parents deserve the truth, and kids deserve protection,” Senator Hawley wrote. “The Senate Judiciary Committee Subcommittee on Crime and […] |
Celebrities onrechtmatig gekloond
Een extra schandaal ontvouwde zich toen bleek dat sommige AI‑bots beroemdheden imiteerden, zoals Taylor Swift, Selena Gomez en 16‑jarige Walker Scobell — en daarbij seksuele rolspelen aangingen. Sommige van deze bots werden zelfs intern bij Meta ontwikkeld, ondanks expliciete bedrijfsbeleidsregels tegen naaktheid, imitatie en seksuele inhoud.
Is Meta’s beleid voldoende en doeltreffend?
Hoewel Meta rigoureus lijkt op te treden, vraagt men zich af of de uitvoering wel effectief is. Bots blijven circuleren ondanks het officiële verbod op expliciete of impersonerende content. Meta zegt aanpassingen in te stellen, maar critici blijven sceptisch over de brede toepassing en handhaving.
Meta is re-training its AI so it won't discuss self-harm or have romantic conversations with teensMeta is re-training its AI and adding new protections to keep teen users from discussing harmful topics with the company's chatbots. |
Meta bevindt zich in een delicate positie waar veiligheid, technologie en ethiek samenkomen. Terwijl het bedrijf probeert de schade te beperken met spoedmaatregelen, blijft de vraag hoe het structurele problemen gaat oplossen. De inzet van exposities, publieke verontwaardiging en juridische toezicht zal bepalen of toekomstige AI-interacties met minderjarigen echt veiliger kunnen worden.
Meta changes teen AI chatbot responses as Senate begins probe into 'romantic' conversationsSen. Josh Hawley, R-Mo., said he was launching an investigation into Meta following a damning Reuters report about the company's AI policies. |
