xAI’s eerdere wapenfeit, Grok Imagine, wordt in journalistieke kringen met evenveel fascinatie als afschuw besproken. De AI-beeld- en videogenerator – toegankelijk voor SuperGrok- en Premium+‑abonnees – heeft een ‘Spicy Mode’ die gebruikers toelaat expliciete, seksueel getinte beelden en zelfs naaktbeelden te creëren, inclusief van publieke figuren zoals Taylor Swift.
De verleiding van ’Spicy Mode’
In tegenstelling tot concurrenten zoals Google Veo of OpenAI’s Sora – die strenge filters hanteren – biedt Grok Imagine verrassend veel vrijheid. Hoewel xAI beweert expliciete portretten van echte mensen te verbieden, functioneren die beperkingen vaak niet goed. Sommige gebruikers slaagden erin semi-naakte afbeeldingen te genereren met slechts een simpele leeftijdsbevestiging, zonder verdere controle.
xAI teases Grok video generatorElon Musk and xAI announced on Monday that Grok users will soon be able to generate AI videos complete with sound on its app. |
Deepfake-alarm: Taylor Swift als voorbeeld
Zelfs zonder expliciete opdracht kon Grok Imagine naaktvideo’s van Taylor Swift genereren, wat herinnert aan de diepe controverse van januari 2024 – toen haar AI‑gegenereerde erotische beelden viraal gingen en wereldwijde verontwaardiging opriepen.
De snelle verspreiding en weinig remmen
In slechts enkele dagen zijn meer dan 34 miljoen beelden gegenereerd via Grok Imagine, wat getuigt van het enorme gebruikersbereik én de minimale moderatie van het systeem. Deze snelheid doet denken aan academische bevindingen: er circuleren tienduizenden deepfake‑modellen die miljoenen keren zijn gedownload, vaak gericht op vrouwen en niet‑consensuele inhoud.
Journalistieke frustratie en ethische waarschuwing
Journalisten die de Spicy Mode testten, konden met minimale inspanning toegankelijke, expliciete content genereren. Dit wijst op een ernstig probleem: veiligheid door beleid (zoals een verbod op celebs) is zinloos wanneer technische handhaving ontbreekt.
Grok Imagine illustreert de complexiteit van AI-innovatie: Opwindend in mogelijkheden, maar gevaarlijk in de praktijk. Zonder duidelijke waarborgen, watermerken of menselijke inbreng dreigen we de schade onder ogen te zien van wat eens onschuldig leek – en vandaag diep problematisch blijkt.
Elon Musk’s Latest AI Frontier: “Spicy” Deepfakes Of Stars Like Scarlett Johansson & Taylor SwiftThe "Spicy" mode on Elon Musk's Grok Imagine AI allows users to create lurid deepfake videos of Scarlett Johansson and Taylor Swift in seconds. |
