In een opmerkelijke koerswijziging heeft OpenAI aangekondigd dat het tijdelijk ophoudt met het genereren van video’s van Martin Luther King Jr. via zijn AI-platform Sora, na verontwaardiging over “respectloze” deepfakes. Volgens het bedrijf en het beheer van King’s nalatenschap hebben gebruikers clips gecreëerd waarvan de inhoud als beledigend werd ervaren.
OpenAI pauses Sora video generations of Martin Luther King Jr. | TechCrunchOpenAI is pausing AI video generations of Martin Luther King at the request of the late civil rights activists' estate. |
De stap markeert een duidelijke aanpassing in het beleid van OpenAI: voortaan kunnen erfgenamen of vertegenwoordigers van historische figuren verzoeken dat hun beeltenis niet wordt gebruikt in video’s van Sora.
OpenAI halts MLK deepfakes on SoraOpenAI said it is “pausing” AI-generated depictions of Martin Luther King Jr. on Sora, and says representatives for historical figures can request opt-outs. |
Achtergronden: Sora, deepfakes en controverse
Sora is een door OpenAI ontwikkelde text-to-video-applicatie waarmee gebruikers op basis van tekstprompts korte, realistische video’s kunnen genereren, waarbij zelfs historische figuren opnieuw “tot leven” kunnen komen. Sinds de lancering van Sora 2 hebben gebruikers talloze video’s gedeeld die gebruikmaken van beroemdheden en overleden iconen — soms op een manier die als beledigend of misleidend wordt beschouwd.
‘Legacies condensed to AI slop’: OpenAI Sora videos of the dead raise alarm with legal expertsThe video app can produce realistic deepfakes of Marx shopping and MLK Jr trolling. Some say using ‘historical figures’ is the company’s way of testing the legal waters |
In sommige gevallen werden scènes gemaakt van Martin Luther King Jr. waarin hij apengeluiden zou maken of betrokken zou zijn in absurde interacties — beelden die als kwetsend werden bestempeld door zijn nabestaanden.
Reacties van de familie en OpenAI’s reactie
De dochter van King, Bernice King, richtte zich publiekelijk tot het publiek met het verzoek om te stoppen met het verspreiden van AI-clips van haar vader. Haar oproep wordt ondersteund door de nalatenschap van King, die met OpenAI heeft samengewerkt in het besluit om de generatie van video’s tijdelijk stop te zetten.
OpenAI gaf aan dat het beleid zal worden versterkt: toekomstige video’s met historische figuren zullen beter afgeschermd worden, en vertegenwoordigers hebben nu de mogelijkheid om te verzoeken dat de beeltenis van een figuur niet wordt gebruikt. Bovendien zei het bedrijf dat vrije meningsuiting een belangrijke waarde is, maar dat publieke figuren en hun familieleden uiteindelijk controle moeten hebben over hoe hun beeld wordt gebruikt.
Implicaties en ethische vragen
Deze beslissing van OpenAI zet een precedent in de AI-wereld: wie beslist hoe historische figuren digitaal opnieuw mogen verschijnen? Critici waarschuwen dat een opt-out-systeem (waar vertegenwoordigers actief moeten verzoeken verwijdering) onvoldoende is en juridische complicaties niet uitsluit.
Juridisch gezien zijn de rechten op het portret en de persoonlijkheidsrechten na iemands overlijden in de VS en andere landen vaak beperkt geregeld. Experts voorzien dat er in de komende jaren heftig gedebatteerd zal worden over aansprakelijkheid, digitale erfenissen en de grenzen van creatieve vrijheid in een AI-tijdperk.
Sora zelf blijft verder functioneren en evolueren, maar met striktere “guardrails” rond historische beeltenissen.
