Automatisering van censuur en surveillance
Een nieuw rapport van Australian Strategic Policy Institute (ASPI) toont aan dat de Chinese Communist Party (CCP) kunstmatige intelligentie (AI) gebruikt om haar bestaande controlemechanismen — censuur, informatiebeheer en bevolkingsmonitoring — veel efficiënter en doordringender in te zetten.
Waar vroeger censuur vooral handmatig gebeurde — denk aan moderators, filters of camerabewaking — worden tegenwoordig geavanceerde AI-systemen ingezet om online content automatisch te scannen, risicoscores toe te kennen, en potentieel “gevaarlijke” beelden of teksten te blokkeren.
China using AI for censorship and surveillanceA Communist Party Politburo meeting focusing on “the governance of the Internet ecosystem” was notable for authorities’ shifting stance on AI. |
Niet alleen tekst: ook beelden worden gecensureerd
Belangrijk in het rapport is dat het niet langer gaat om censuur van enkel tekstuele inhoud. Chinese AI-modellen, waaronder grote taalmodellen, weigeren soms te reageren op politieke gevoelige beelden — zoals foto’s van protesten of historische evenementen — en sluiten die beelden uit van wat gebruikers mogen zien.
Dat betekent dat het regime nu controle heeft over hoe dingen eruitzien — niet alleen wat er gezegd wordt. Daardoor wordt het narratief over bijvoorbeeld protesten, historische gebeurtenissen of politieke gevoeligheden actief vervaagd.
|
China’s censorship and surveillance were already intense. AI is turbocharging those systems | CNNChinese authorities are using artificial intelligence to turbocharge surveillance and censorship, with the technology predicting public demonstrations and monitoring prison inmates, according to a new report. |
Surveillance, data en repressie: AI integreert zich overal
Maar het gebruik van AI in China beperkt zich niet tot het internet. De technologie wordt ook verweven met justitie- en politiewerk, surveillance van bevolkingsgroepen, en monitoring van etnische minderheden. Volgens het rapport gebruikt de staat AI om burgers te volgen, hun gedrag en communicatiepatronen te analyseren en op voorhand conflicten of protesten in te schatten.
In de praktijk betekent dat dat de grens tussen online censuur, real-world toezicht en rechtspraak steeds vager wordt — en dat AI dient als instrument om controle, repressie en politieke stabiliteit te waarborgen volgens de doelen van de CCP.
Gevolgen voor mensenrechten en wereldwijde verspreiding
Volgens de onderzoekers is het niet enkel Chinees probleem: de AI-tools die in China worden ontwikkeld, worden ook aangeboden aan buitenlandse overheden en diensten. Daardoor bestaat het risico dat de methodes van toezicht en censuur — gecamoufleerd als “technologie-export” — wereldwijd navolging vinden.
De verstrengeling van commerciële prikkels (bedrijven die AI-censuursystemen ontwikkelen) en staatscontrole maakt het nog gevaarlijker: marktkrachten worden ingezet om autoritarisme te versterken — met als resultaat dat informatiecontrole goedkoper, sneller en grensoverschrijdend wordt.
