China’s inzet van kunstmatige intelligentie (AI) heeft een nieuwe dimensie toegevoegd aan zijn reeds uitgebreide censuurapparaat. Recente onthullingen wijzen op het gebruik van geavanceerde AI-systemen om de controle over informatie te versterken en staatspropaganda te verspreiden.
Gelekte gegevens onthullen AI-gestuurde censuur
Een gelekte database, geanalyseerd door TechCrunch, onthult dat China een AI-systeem heeft ontwikkeld dat zijn censuurcapaciteiten aanzienlijk versterkt. Dit systeem is primair gericht op het censureren van Chinese burgers online, maar heeft ook het potentieel om afwijkende meningen te detecteren en de censuur binnen AI-modellen uit te breiden. De database bevat instructies voor de AI om inhoud te identificeren en te markeren die verband houdt met gevoelige onderwerpen, waaronder politieke kwesties, sociale onrust en militaire aangelegenheden.
DeepSeek: Een voorbeeld van geïntegreerde censuur
Het Chinese AI-model DeepSeek, uitgebracht in januari 2025, illustreert de integratie van censuur binnen AI-systemen. Gebruikers die DeepSeek hebben getest, merkten op dat de chatbot zichzelf in realtime censureert, wat inzicht geeft in de controle van informatie en meningsuiting. Dit roept vragen op over de nauwkeurigheid en onbevooroordeeldheid van de verstrekte informatie.
AI en culturele vooringenomenheid
De ontwikkeling en training van AI-modellen in China worden beïnvloed door culturele en politieke vooringenomenheid. Onderzoek toont aan dat censuurpraktijken de ontwikkeling van online encyclopedieën hebben beïnvloed, wat implicaties heeft voor natuurlijke taalverwerkingsmodellen. Dit suggereert dat AI-systemen, getraind op dergelijke gegevens, onbewust staatspropaganda kunnen verspreiden en alternatieve perspectieven kunnen onderdrukken.
Informatie bevorderen en niet onderdrukken
China’s gebruik van AI om censuur en propaganda te versterken, benadrukt de noodzaak voor internationale waakzaamheid en ethische overwegingen bij de ontwikkeling en implementatie van AI-technologieën. Terwijl AI blijft evolueren, is het cruciaal om ervoor te zorgen dat deze technologieën worden gebruikt om informatie te bevorderen en niet om deze te onderdrukken.
Exclusive: Leaked data exposes a Chinese AI censorship machineOne academic who reviewed the dataset said it was "clear evidence" that China, or its affiliates, wants to use AI to improve repression. |