AI-slop vergiftigt Reddit: Nepverhalen ondermijnen de community

Een vreemde bruid, woedende passagiers — en een stille invasie

Op Reddit wemelt het van de posts over ruzies op bruiloften, familiedrama’s of passagiers op een vliegtuig die van plek ruilen willen — typische verhalen voor communities als r/AmItheAsshole. Maar wat vroeger soms oprechte ergernissen of kwetsbare bekentenissen waren, blijkt steeds vaker precies dezelfde rage-bait in andere woorden. En daar zit het probleem: veel van die verhalen zijn geen menselijke ervaringen meer, maar machinaal gegenereerde content — zogezegd “AI-slop”. 

Sinds de lancering van tools als ChatGPT in eind 2022, merken moderators dat nepaccounts en AI-bewerking vlot opschalen. Energiezuinig, goedkoop – en schijnbaar onweerstaanbaar in het oog van de algoritmes. Velen vermoeden dat tot de helft van de inhoud die tegenwoordig op Reddit verschijnt, “gemaakt of bewerkt met AI” is.

Wantrouwen in plaats van empathie

Voor de vrijwilligers die Reddit schoonhouden — moderators zoals “Cassie” (haar voornaam alleen) — is de opkomst van AI-slop een existentiële bedreiging voor de betrouwbaarheid van het platform. Net wanneer een community zou moeten floreren door oprecht delen en discussiëren, sluipt er scepsis binnen. Gebruikers weten niet meer wat echt is, wat nep.

Sommigen zeggen dat “AI alle plezier eruit haalt”: je weet nooit of die emotionele bekentenis of dat dramatische verhaal wel authentiek is. Reacties blijven uit, engagement keldert en mensen haken af. 

Detecteren is giswerk — én moeizamere moderatie

Hoe herken je zo’n AI-post? Er bestaan geen sluitende tools. Moderators leunen op intuïtie: bijvoorbeeld dat een post bijna letterlijk de titel herhaalt in de inhoud, of dat een account met slechte eerdere spelling plotseling met vlekkeloze grammatica tevoorschijn komt. Ook nieuwe accounts, overdreven perfect getikte drama’s of bizarre emoticons in titels zijn waarschuwingssignalen. 

Maar deze heuristiek is verre van onfeilbaar — en omdat steeds meer gebruikers op dezelfde AI-stijl overschakelen, vervagen de verschillen tussen echt en nep. Voor moderators wordt het een onhoudbare strijd: veel tijd, weinig zekerheid. 

Meer dan clickbait: Misbruik, haat en zelfs geld

De gevolgen lopen verder dan oppervlakkige verveling. Sommige AI-slop is duidelijk ontworpen om te choqueren, haat te zaaien of bepaalde groepen te demoniseren — vaak tijdens gevoelige momenten of rond kwetsbare groepen. In forums over politiek of sociale kwesties wordt AI ingezet om desinformatie te verspreiden of sentiment te manipuleren.

Daarnaast is er een economisch motief: via het beloningssysteem van Reddit (upvotes, “karma”, awards) kunnen gebruikers inkomen of waarde uit deze machine-gegenereerde posts halen — en zelfs accounts verkopen. Wat ooit een sociaal platform was, wordt voor sommigen een winstmachine.

Reddit op een keerpunt: Menselijk of massaproduct?

De crisis is niet alleen technisch — het is existentieel. Reddit worstelt met de vraag of het nog een plek is waar echte mensen met echte verhalen elkaar vinden, of dat het een zee van generieke, machinaal geproduceerde content wordt.

Vrijwillige moderators kunnen niet op tegen de stroom. Automatische filters falen, detectie is arbitrair, en gebruikers verliezen vertrouwen. Als er niet snel ingegrepen wordt, dreigt Reddit te ontaarden in “de AI-slop-machine” — waar volume boven waarde gaat.