Elon Musks AI-bedrijf xAI staat onder vuur vanwege zijn nieuwe tool, Grok Imagine. Deze applicatie, die gebruikers in staat stelt om AI-gegenereerde video's te maken, heeft onbedoeld expliciete deepfakes van popster Taylor Swift geproduceerd zonder dat gebruikers hierom vroegen.
Grok Imagine: Een 'spicy' modus zonder grenzen
Grok Imagine biedt vier instellingen: 'Custom', 'Normal', 'Fun' en 'Spicy'. De 'Spicy'-modus is ontworpen voor het genereren van expliciete inhoud. Echter, volgens rapporten genereerde de tool automatisch topless video's van Taylor Swift, zelfs zonder expliciete verzoeken. Een journalist van The Verge ontdekte dat het simpelweg kiezen van de 'Spicy'-modus resulteerde in een video waarin Swift haar kleding uittrekt en danst in een thong voor een AI-gecreëerd publiek.
Gebrek aan effectieve moderatie
Hoewel Grok Imagine gebruikersrichtlijnen heeft die pornografische afbeeldingen van echte mensen verbieden, blijkt de technologie deze regels te omzeilen. De tool genereerde expliciete beelden van Swift zonder dat de gebruiker daarom vroeg, wat wijst op een gebrek aan effectieve moderatie en ethische waarborgen binnen het platform.
Reacties en bezorgdheid
De situatie heeft geleid tot bezorgdheid over de bescherming van individuen tegen niet-geconsenteerde deepfake-inhoud. De Rape, Abuse & Incest National Network (RAINN) noemde Grok's functie "een groeiend probleem van op afbeeldingen gebaseerd seksueel misbruik".
De controverse rond Grok Imagine benadrukt de noodzaak voor strengere regulering en ethische richtlijnen bij de ontwikkeling van AI-technologieën. Het is essentieel dat bedrijven als xAI verantwoordelijkheid nemen voor de impact van hun producten op de privacy en het welzijn van individuen.
|
Pornographic Taylor Swift deepfakes generated by Musk's Grok AIGrok Imagine's "spicy" mode made explicit videos of Taylor Swift, according to The Verge and Gizmodo. |
