Ani, avatars en arbeid: xAI gebruikte werknemers als dataset

Bij xAI, de AI-startup van Elon Musk, borrelt opnieuw controverse op. Volgens een diepgaand onderzoek door onder meer The Wall Street Journal werden medewerkers opgeroepen hun biometrische gegevens — zoals gezicht en stem — af te staan om een digitale avatar genaamd “Ani” en andere AI-gezelschapsmodellen te trainen. Wat volgt is een verhaal over technologische ambitie, privacy-spanning en een cultureel grensgebied tussen mens en machine.

Wat is gebeurd?

In april dit jaar werd in een interne bijeenkomst kenbaar gemaakt dat xAI authentieke menselijke beelden en audio nodig had zodat de digitale avatars “er als mensen uitzien en klinken”. De betrokken medewerkers — aangeduid als “AI­tutoren” — kregen formulieren voorgelegd waarin zij een eeuwige, wereldwijde, sub-licentieerbare en royalty-vrije licentie verlenen voor het gebruik van hun biometrische gegevens. Volgens de berichten kwam de boodschap neer op: deelname was onderdeel van de jobvereisten.

Waarom nu juist dit project?

Het betreft onder andere een avatar Ani, een anime-stijl digitale gezelschaps-bot met een seksuele inslag, bedoeld voor abonneegebruik via xAI’s platform. De ontwikkelingen lopen parallel met een strategische push van xAI richting “menselijke interactie” en het snel op de markt brengen van bijzondere AI-ervaringen.

‘Tutors’ at Musk startup xAI had to give up rights to faces, voices to train sexy AI bots: report Employees at Elon Musk’s artificial intelligence startup xAI reportedly had to sign away the rights to their own faces and voices to help train the company's next generation of chatbots -- including a sexually suggestive virtual companion named "Ani."

Privacy- en ethische dilemma’s

De implicaties zijn groot:

• Kunnen medewerkers werkelijk vrij instemmen als het onderdeel uitmaakt van hun functie?
• Wat betekent het dat de licentie “eeuwig” en “wereldwijd” is? 
• Het risico dat de geleverde gezichts- of stemgegevens later gebruikt worden voor andere producties, deepfakes of herverkoop
• En last but not least: de verschuiving van “AI-hulpmiddel” naar “digitale gezel/partner” roept maatschappelijke vragen op over de aard van menselijke interactie via technologie.

Reactie van xAI en Musk

xAI heeft in publieke instellingen geen uitgebreide toelichting gegeven over deze specifieke bio-dataverzameling. Een woordvoerder labelde de berichtgeving onder meer als ‘legacy media lies’. Musk zelf bood via sociale mediakanalen regelmatig updates en comments over het ambitieuze groeitraject van xAI — maar beperkte zich niet tot technische of zakelijke statements, ook de culturele implicaties kwamen ter sprake.

Breder kader: AI, arbeid en menselijke data

Deze zaak past in een groeiende trend waarin techbedrijven biometrische, persoonlijke of gedragsdata inzetten om ‘menselijker’ ogende AI-modellen te maken. Maar de grens tussen vrijwillige deelname en functievereiste vervaagt. Medewerkers binnen xAI gaven aan zich ongemakkelijk te hebben gevoeld bij de seksuele tonaliteit van de avatar Ani, en bij de implicatie dat hun gelijkenis later in andere contexten kan opduiken.

Het verhaal van xAI en de betrokken medewerkers laat zien hoe snel de technologische grens kan verschuiven, én hoe belangrijk het is om achter het glanzende imago van een AI-startup te kijken naar de mensen, gegevens en keuzes die aan de basis liggen.

Musk Ordered Staff to Hand Over Biometric Data to Train His Sexual AI Bot The world’s richest man got staff to give over their personal information to build his racy girlfriend-experience AI chatbot, which strips and flirts on demand. ONTDEK MEER