Meer dan nepnieuws: De revolutie van massale AI-propaganda

Onderzoekers van onder andere Graphika luiden de alarmbel: grootschalige, door staten gesteunde online propagandacampagnes maken tegenwoordig massaal gebruik van generatieve AI om inhoud te produceren — maar de kwaliteit laat te wensen over. Het gaat om een strategische verschuiving: niet langer enkel uitgekiende, handgemaakte desinformatie-berichten, maar ook kwantitatieve overstroming van low-quality AI-gegenereerde content.

Waarom ‘AI-slop’?

De term ‘AI-slop’ verwijst naar grof geproduceerde, weinig verfijnde AI-gegenereerde teksten en beelden die vooral zijn bedoeld om het internet te overspoelen, zoekresultaten te vervuilen en de aandacht van algoritmes op te eisen — niet per se om diepgaande invloed uit te oefenen op individuele lezers. In dit geval zien de onderzoekers dat propagandamachines deze goedkope productiewijze inzetten als schaalbaar instrument.

Some of the largest online propaganda campaigns are using 'AI slop,' researchers say Many of the largest and most widely established state-sponsored online propaganda campaigns have embraced using AI, a new report finds.

Het doel: Algoritmes en zoekmachines manipuleren

In plaats van te hopen op massale betrokkenheid van mensen, richten deze campagnes zich vooral op de infrastructuur van online media: zoekmachines, aggregatoren, feeds en social-mediaplatformen. Door een grote hoeveelheid generieke AI content te genereren, proberen de campagnes zichtbaarheid en dominantie in het ecosysteem van informatie op te bouwen — zelfs als de individuele items weinig impact hebben.

Wat zijn de risico’s voor maatschappij en media?

Voor de samenleving betekent dit dat we niet alleen te maken krijgen met geraffineerde nep-verhalen, maar ook met een ruislaag van inhoud die het onderscheid tussen goed, betrouwbaar, ongeïnformeerd of manipulerend steeds moeilijker maakt. Voor de gevestigde media en algoritmes is het een uitdaging: de overvloed aan AI-gegenereerde content vervangt niet automatisch menselijke inhoud, maar verhoogt wel het volume van de ‘achtergond-ruis’. Dit verhoogt de druk op moderatie-mechanismen, fact-checking en mediageletterdheid.

Wat kunnen redactie-teams, platformen en lezers doen?

• Media-organisaties: investeren in detectie van synthetische inhoud, trainen algoritmes om ‘massa-AI’ te herkennen en ontwikkelen richtlijnen voor generatieve AI-gebruik.
• Platformen: scherpere signalering en beperking van grootschalige automatisering, transparantie over bron en productieproces, versterking van menselijke moderatie.
• Lezers: kritisch blijven, niet alleen op de inhoud maar ook op de context – wie publiceert, met welk doel, en wat is het productie-profiel van die content.

De analyse laat zien dat online propaganda zich in een nieuwe fase bevindt: niet alleen misleiding door individuele verhalen, maar ook door kwantitatieve overweldigings-strategieën met behulp van generatieve AI. Het is een evolutie van vorm, niet (alleen) van inhoud — en daarom verdient het onze aandacht.