Ongeautoriseerd AI-experiment op Reddit: gebruikers onbewust gemanipuleer

In een controversiële studie hebben onderzoekers van de Universiteit van Zürich zonder toestemming AI-bots ingezet op Reddit's r/ChangeMyView-subreddit. Deze bots, aangedreven door geavanceerde taalmodellen zoals GPT-4o, Claude 3.5 Sonnet en Llama 3.1-405B, werden ontworpen om overtuigende reacties te plaatsen en gebruikers van mening te laten veranderen. Gedurende vier maanden plaatsten de bots 1.783 reacties, waarbij ze zich voordeden als onder andere een trauma-adviseur of een slachtoffer van seksueel geweld. Ze analyseerden de postgeschiedenis van gebruikers om gepersonaliseerde en overtuigende antwoorden te genereren. Meer dan 100 gebruikers kenden "delta"-medailles toe aan deze bots, wat aangeeft dat hun mening daadwerkelijk werd beïnvloed.

Reactie van Reddit en ethische bezorgdheid

De moderators van r/ChangeMyView ontdekten het experiment pas na afloop en bestempelden het als "psychologische manipulatie". Reddit heeft inmiddels de betrokken accounts verwijderd en overweegt juridische stappen tegen de onderzoekers. De Chief Legal Officer van Reddit noemde het experiment "diep verkeerd op zowel moreel als juridisch vlak".

Verweer van de onderzoekers

De Universiteit van Zürich erkende dat het experiment de communityregels heeft geschonden en bood excuses aan. Ze benadrukten echter het maatschappelijke belang van het onderzoek en stelden dat het noodzakelijk was om de studie uit te voeren, ondanks de overtreding van de regels. De universiteit heeft aangegeven de ethische goedkeuringsprocessen te herzien om soortgelijke incidenten in de toekomst te voorkomen.

Implicaties voor de toekomst

Dit incident onderstreept de groeiende zorgen over de inzet van AI in online omgevingen en de potentiële manipulatie van gebruikers zonder hun medeweten. Het roept vragen op over de ethische grenzen van AI-onderzoek en de noodzaak van transparantie en toestemming bij studies die menselijke deelnemers betreffen.​