Afbeelding van Ibrahim Kizza voor APC. Gebruikt met toestemming.

Dit artikel maakt deel uit van de serie „Vraag het niet aan AI, maar aan een collega“, een samenwerkingsproject van Global Voices, de Association for Progressive Communication en GenderIT. De serie wil het belang opnieuw benadrukken van kennisuitwisseling tussen mensen, zoals die al decennia lang gebeurt. Je kan de serie volgen op APC.org, GenderIT.org en globalvoices.org. Ze maakt ook deel uit van de Spotlight-serie van Global Voices van april 2026, “Human perspectives on AI.” Je kan deze berichtgeving steunen door hier te doneren.

Als een van de landen die het meest berucht zijn vanwege het gebruik van AI voor surveillance en het beperken van de vrijheid van burgers, is het niet China dat een antwoord kan bieden op hoe een mensen-rechtenbenadering van AI ontwikkeld kan worden. Toch kan de open omarming van AI-technologie en de ambities voor dominantie op de wereldwijde AI-markt dienen als casestudy voor de snelgroeiende relatie tussen de private sector en de staat, en tussen de machine en de samenleving.

In februari 2026  ontdekte een Spaanse ingenieur, Sammy Azdoufal, dat hij de controle kon overnemen over 7.000 slimme stofzuigers, realtime beelden vanuit de huizen van mensen kon bekijken, het omgevingsgeluid via de live camera's van de machines kon beluisteren, en de exacte locatie van de huishoudens kon bepalen via hun IP-adressen door simpelweg de verbinding tussen zijn pas aangeschafte DJI Romo-stofzuiger en zijn PlayStation-gamepad te reverse-engineeren.

Hoewel het Chinese bedrijf het beveiligingslek in een mum van tijd kon verhelpen, laat dit incident zien hoe gemakkelijk AI-gestuurde bewakingstechnologie ons dagelijks leven kan binnendringen en welke risico’s dit met zich meebrengt.

Universele dreigingen gaan gepaard met AI-surveillance en oorlogstechnologie

De eerder genoemde slimme stofzuiger is niet beschikbaar op de Amerikaanse markt omdat de fabrikant, DJI, in 2022 werd aangewezen als een “Chinees militair bedrijf” en vanwege nationale veiligheidsredenen op de zwarte lijst van het Pentagon werd geplaatst.

Tegen deze achtergrond zijn discussies over AI-gestuurde surveillancetechnologie en de bijbehorende bedreigingen grotendeels beperkt gebleven tot China, maar deze technologie is universeel en treft mensen wereldwijd.

China is inderdaad een voorloper in het benutten van geavanceerde surveillancetechnologieën om zijn repressieve bestuur te versterken, en heeft  het instrumentenpakket zelfs geëxporteerd naar andere autoritaire staten, zoals internationaal  is gedocumenteerd. De ervaring in China, zowel wat betreft het zogenaamde sociale beheer van de Oeigoeren in Xinjiang, als het landelijke COVID-19-controlesysteem, laat de wereld zien dat het monitoren van mensen onder het mom van netwerkbeheer en de toepassing van bewakingstechnologie — gezichtsherkenning, een sociaal kredietsysteem, geolocatie en online gegevenstracking — samenwerken om een politiek klimaat te handhaven dat mogelijk destabiliserende handelingen effectief voorkomt. De Orwelliaanse realiteit laat zien dat, wanneer de staat over een krachtig AI-apparaat beschikt, zijn macht versterkt kan worden ten koste van de individuele vrijheid van vereniging en vergadering, meningsuiting en bewegingsvrijheid.

De wereldwijde markt voor repressieve technologie

Dergelijke geavanceerde repressieve technologie heeft een marktbereik dat de voorstelling te boven gaat. In China worden AI-gestuurde gezichtsherkenningssystemen onder meer ingezet om  boetes voor illegaal parkeren en oversteken buiten het zebrapad uit te schrijven,  betalingen online en offline te verwerken en  de prestaties van leerlingen  in de klas te monitoren.

Hoewel democratische landen sceptisch staan tegenover de Chinese toepassing van AI-surveillance, zetten dergelijke standpunten hen er alleen maar toe aan om soortgelijke AI-tools bij niet-Chinese leveranciers aan te schaffen. De Britse politie heeft bijvoorbeeld onlangs de AI-gestuurde gezichtsherkenningstechnologie gekocht die door de Israëlische inlichtingendienst wordt gebruikt om Palestijnse burgers die door Gaza reizen te identificeren en te volgen. De 50 AI-gezichtsherkenningsmachines zullen landelijk worden ingezet om personen op de waarschuwingslijst van de Britse politie te identificeren en te volgen. In de VS is AI-technologie ook gebruikt bij de massale surveillance en arrestatie van ongedocumenteerde immigranten en de recente oorlog tegen Iran.

Op digitaal vlak heeft de invloed van AI op het media- en informatie-ecosysteem verwoestende gevolgen gehad. Er is uitgebreid gerapporteerd over de ingebouwde censuur en politieke vooringenomenheid van de door China gemaakte generatieve AI, DeepSeek, om een pro-China narratief te verspreiden.

Tegelijkertijd zijn westerse generatieve AI's ook handig om propaganda over het internet te verspreiden. Zoals blijkt uit de transparantierapporten van OpenAI, hebben Russische en Chinese informatiebeheerders ChatGPT gebruikt om de publieke opinie te analyseren en content af te stemmen op hun doelgroep. Onlangs, tijdens de Amerikaans-Israëlische oorlog tegen Iran, heeft oorlogspropaganda, in de vorm van door AI gegenereerde deepfake-video's, ook grote sociale mediaplatforms overspoeld.

Een kleine groep verspreiders van desinformatie kan nu, dankzij hun AI-assistenten, de perceptie van de werkelijkheid bij de meerderheid beïnvloeden.

De noodzaak om de machtsverhoudingen weer in evenwicht te brengen

China heeft ook een belangrijke les voor de wereld op het gebied van AI-governance. Sinds 2022 heeft het een reeks wetten en regels uitgerold, waaronder de Algorithmic Recommendation Provisions (2022), Deep Synthesis Management Provisions (2023), Generative AI Interim Measures (2023), en AI Labeling Measures (2025 om illegaal en kwaadwillig gebruik van AI te voorkomen en ervoor te zorgen dat door machines gegenereerde inhoud in overeenstemming is met de socialistische kernwaarden van China. Er is op een evenwichtige manier rekening gehouden met de rechten van gebruikers op het gebied van gegevensbescherming, toestemming en inzage, waarbij aanvullende eisen zijn gesteld aan het maatschappelijk verantwoord ondernemen om de transparantie van algoritmen te vergroten en maatregelen te nemen die niet-discriminerend en niet-verslavend zijn.

Aangezien deze wetten echter tot doel hebben de nationale veiligheid, de openbare orde en de politieke ideologie te beschermen, zijn er geen beperkingen op de staatsmacht. Op Chinese sociale media is het niet ongewoon om gebruikers te zien klagen dat de politie aan hun deur klopte, alleen omdat ze iets verdachts hadden gekocht, zoals een drone om foto's te maken. Het sociale kredietsysteem, samen met online censuur, een grid-beheersysteem en andere sociale controlesystemen, houdt de online activiteitengegevens van gebruikers bij, waaronder financiële transacties, sociale contacten en communicatie, en beperkt hun toegang tot digitale en publieke diensten, zoals online betaalsystemen en reisaankopen, wanneer hun kredietscore laag is en ze vervolgens op de lijst van de Chinese rechtbanken met “vonnissen van oneerlijke personen” worden vermeld.

De verplichtingen die de wetgeving aan het bedrijfsleven oplegt, lijken redelijk en rechtvaardig. Toch zijn er maar weinig onafhankelijke maatschappelijke organisaties die de private sector monitoren en ervoor zorgen dat technologiebedrijven inderdaad de wettelijke beschermingsmaatregelen hebben ingevoerd. Als gevolg hiervan zijn beveiligingslekken en persoonlijke datalekken door slecht ontworpen AI-producten, zoals de DJI Romo Vacuum, de afgelopen jaren blijven bestaan. In 2025 bracht een groot datalek de gegevens van miljarden Chinese gebruikers aan het licht, waaronder namen, ID-nummers, wachtwoorden en financiële en bankgegevens die gekoppeld zijn aan hun sociale media-accounts. Deze gegevens zouden door oplichters kunnen worden misbruikt om de betrokken personen schade te berokkenen.

Ondanks alle veiligheidsrisico’s hebben burgers op het Chinese vasteland nieuwe technologieën, met name AI, snel omarmd. Het meest recente voorbeeld, dat zich begin maart voordeed in grote Chinese steden, is de stormloop op OpenClaw , een AI-bot, gecodeerd door de Oostenrijkse programmeur Peter Steinberger. Deze bot kan worden geïntegreerd met Andere grote taalmodellen (LLM's) zoals DeepSeek en Claude, draait op een lokale computer en slaat gegevens lokaal op. Om op deze trend in te spelen, brachten andere Chinese bedrijven, waaronder Tencent, ByteDance en Xiaomi, soortgelijke producten op de markt. Dit technologische fanatisme, aangewakkerd door zowel het beleid van de Chinese overheid om geavanceerde technologie in de economie te integreren als de angst van mensen om achterop te raken in de snelle technologische innovatie, verandert mensen in fans en volgelingen van een Leviathan, waaraan ze hun tijd, energie, verlangens, ideeën en gegevens toevertrouwen zonder enig idee te hebben wie er de touwtjes in handen heeft en waar dit hen naartoe zou kunnen leiden.

Hoewel transparantie en de bescherming van consumentenrechten in de Chinese AI-wetgeving zijn vastgelegd, blijft de bescherming van de mensenrechten achter, omdat mensen zich niet bewust zijn van hun rechten en van de mogelijke schade die voortvloeit uit misbruik en kwaadwillig gebruik van de technologie. In plaats daarvan hebben de meeste burgers op het Chinese vasteland, bij gebrek aan een alternatief, surveillancetechnologie – zoals de alomtegenwoordigheid van beveiligingscamera’s met gezichtsherkenning – geaccepteerd als een normaal en handig onderdeel van het openbare leven. Het mechanisme voor verandering is geblokkeerd

We zien in de Chinese AI-dystopie dat mensen niet de controle hebben over de technologie, maar onderworpen zijn aan een regime dat technologie ziet als een middel om de politieke en economische macht van de staat uit te breiden en te consolideren. Dit toont aan dat de kern van de mensenrechtenbenadering van AI erop gericht moet zijn de machtsverhoudingen tussen het bedrijfsleven en de staat, de machine en de mens weer in evenwicht te brengen. Dit kan gebeuren door middel van een besluitvormingskader dat de mens centraal stelt, en technologisch fanatisme doorbreekt via mensgericht onderzoek en publieke discussie, reflectieve culturele praktijken en humanitaire vorming.