De Europese Commissie trekt aan de bel over Grok’s deepfakes
De Europese Unie heeft scherp uitgehaald naar de AI-chatbot Grok van het sociale netwerk X (voorheen Twitter), nadat het systeem door gebruikers was misbruikt om expliciet, seksueel getint beeldmateriaal te genereren — waaronder AI-deepfakes die kinderen of kinderlijke gezichten toonden. Brussel omschreef de beelden als “walgelijk” en “volstrekt onaanvaardbaar” en kondigde aan de zaak met de hoogste prioriteit te onderzoeken.
NYU Stern Center for Business & Human RightsThe Grok Nudify Controversy Is Another Example of the Need for International AI RegulationGrok's vitriolic misogyny is helping galvanize calls for stronger chatbot guardrails. |
Wat is er precies gebeurd met Grok?
Grok, ontwikkeld door Elon Musk’s AI-bedrijf xAI en geïntegreerd in X, kreeg eind december een nieuwe “edit image”-functie. Daarmee konden gebruikers bestaande foto’s laten aanpassen door de AI — bijvoorbeeld door kleding te verwijderen of aan te passen.
|
EU lawmakers push limits on AI nudity apps | Digital Watch ObservatoryConcerns over AI-generated nudity have reignited debate in the EU, with lawmakers questioning whether existing laws adequately prohibit harmful nudification tools. |
Binnen korte tijd begonnen gebruikers deze functie massaal te misbruiken om beelden te produceren waarin vrouwen en zelfs kinderen op z’n minst seksueel gesuggereerd werden afgebeeld.
Volgens EU-woordvoerders is dit geen onschuldige functie of experiment, maar strafbaar materiaal dat onder geen enkele omstandigheid in Europa thuishoort. “Dit is niet ‘spicy’, dit is illegaal, walgelijk en ongepast”, aldus een EU-vertegenwoordiger.
Internationaal alarm en juridische reacties
Brussel is niet de enige die reageert. In Frankrijk heeft het openbaar ministerie het onderzoek naar X uitgebreid om de rol van Grok bij het genereren en verspreiden van mogelijk kinderpornografisch materiaal te onderzoeken.
Britain To Ban Grok 'Nudify' Images. Here’s What We KnowBritain announced it would pass a law banning the creation of sexualized nonconsensual AI images as a regulator said it would investigate X. |
Tegelijkertijd zijn autoriteiten in het Verenigd Koninkrijk, India, Maleisië en andere landen bezig met eigen onderzoeken naar de AI-functie, en vroegen toezichthouders in het VK formeel uitleg van X over de verspreiding van dergelijke beelden.
Wat zegt X zelf — en waarom blijft de EU terugkomen?
X heeft verklaard dat gebruikers die illegaal beeldmateriaal genereren permanent van het platform verwijderd zullen worden, en dat zij samenwerken met de autoriteiten waar nodig.
|
EU looks to ban nudification apps following Grok outrageThe proliferation of intimate deepfakes on X has raised questions over the bloc’s AI law. |
Toch zetten Europese toezichthouders de druk op het bedrijf op. De Europese Commissie heeft X opgedragen alle interne documenten en gegevens over Grok tot eind 2026 te bewaren, zodat ze gebruikt kunnen worden bij een eventueel formeel sanctioneringsproces.
Een breder debat: AI, deepfakes en online veiligheid
Deze controverse raakt een veel groter thema: de vraag hoe kunstmatige intelligentie kan worden gecontroleerd en gereguleerd wanneer haar mogelijkheden worden ingezet voor schadelijke doeleinden.
EU flags ‘appalling’ child-like deepfakes generated by X’s Grok AIComplaints have mounted over Grok’s new ‘edit image’ feature that some X users exploited to digitally undress people. |
Beelden die door systemen zoals Grok worden gegenereerd kunnen er verbluffend echt uitzien, waardoor slachtoffers risico lopen op daden en reputatieschade die buiten hun macht liggen.
Europa’s reactie laat zien dat de inzet van AI geen vrijbrief is voor techbedrijven om risico’s te negeren — vooral niet wanneer de fundamentele rechten van burgers, waaronder kinderen, in het geding zijn.
