Een screenshot van X (voorheen Twitter) waarop te zien is hoe sommige X-gebruikers de AI-chatbot Grok gebruiken om vrouwen te seksualiseren.

Door Victory Brown

Dit bericht maakt deel uit van de Spotlight-serie van Global Voices van april 2026, getiteld “Human perspectives on AI“. Deze serie biedt inzicht in hoe AI wordt gebruikt in landen met een wereldwijde meerderheid (wereldwijde meerderheid (Global Majority) is een verzamelterm voor mensen met een Afrikaanse, Aziatische, inheemse, Latijns-Amerikaanse of gemengde afkomst. Zij vormen samen ongeveer 80 tot 85 procent van de wereldbevolking), hoe het gebruik en de implementatie ervan individuele gemeenschappen beïnvloeden, wat dit AI-experiment zou kunnen betekenen voor toekomstige generaties, en meer. U kunt deze berichtgeving steunen door hier te doneren.

Als Nigeriaan die jarenlang actief is geweest op X (voorheen Twitter), heb ik veel meegemaakt. Ik heb trends zien komen en gaan, beleid zien veranderen en gemeenschappen zien ontstaan ​​en weer verdwijnen. Lange tijd beschouwde ik mezelf als een ‘bewuste’ internetgebruiker. Ik beheerde mijn tijdlijn zorgvuldig, vermeed onnodige interacties, blokkeerde gevoelige zoekwoorden en accepteerde de ongemakkelijke waarheid dat, vooral voor vrouwen, het internet nooit ontworpen is met onze veiligheid in gedachten.

Mijn werk bij Superbloom (een non-profitorganisatie en ontwerpstudio) – met name aan mensgerichte-ontwerpprojecten en het draaiboek van het technisch beleidsontwerp-laboratorium Playbook over online gender-gerelateerd geweld – was mijn eerste echte kennismaking met de omvang en de intensiteit van online geweld. Ik zag hoe deze vormen van geweld online blijven voortduren: slachtoffers blijven bang en kwetsbaar, terwijl daders zelden ter verantwoording worden geroepen. Een tijdelijke ban is vaak het enige dat er gebeurt, waarna ze al snel terugkeren met een nieuwe account en een nieuw slachtoffer. Sociale media, ooit een plek voor verbinding, gemeenschapsvorming en ondernemerschap, is nu een slagveld en een vijandige omgeving geworden, waar vrouwen vaak het slachtoffer zijn van niet uitgelokt misbruik. Bovendien heeft, volgens schattingen van de VN, slechts 40 procent van de landen een wetgeving die vrouwen en meisjes beschermt tegen online misbruik, waardoor een groot deel van de wereldbevolking kwetsbaar blijft.

Als een gebruikerservaring-ontwerper (UX)  heb ik in mijn werk geleerd hoe ontwerpbeslissingen, soms onzichtbaar voor gebruikers, de uiteindelijke resultaten bepalen. Of het nu gaat om het UX-ontwerp van een platform of om onzichtbare aspecten zoals gegevensopslag en privacy, zal de keuze van het ontwerp gebruikers kunnen beschermen of juist kwetsbaar maken. Ik ben gaan begrijpen dat een goed ontwerp niet alleen intuïtief is; het beschermt, het is transparant en het is toegankelijk.

Ik heb echter gemerkt dat de meeste sociale platforms zoals X de verspreiding van subtiele, passief-agressieve inhoud toestaan. Ik heb dit zowel persoonlijk als van buitenaf ervaren. Dit geldt met name voor Grok, een AI-assistent. Het werd ontwikkeld door Elon Musks xAI en is direct geïntegreerd in X. Hiermee kunnen gebruikers teksten genereren en afbeeldingen bewerken aan de hand van eenvoudige aanwijzingen, waaronder het transformeren van foto's. Omdat Grok ingekapseld is in een sterk verbonden platform, opereert het niet geïsoleerd: de output kan direct worden gedeeld, versterkt en misbruikt, wat nieuwe zorgen baart over de manier waarop door AI gegenereerde inhoud circuleert in een toch al onveilige online omgeving. Vóór Grok was het internet al vijandig. Vrouwen werden aangevallen voor hun lichaam, hun geloof, hun politieke opvattingen, hun accent, hun identiteit en meer. 

Openlijk je stem laten horen, zichtbaar zijn, of simpelweg online aanwezig zijn als vrouw – en zeker als zwarte Nigeriaanse vrouw – had vaak gevolgen. Studies tonen aan dat, hoewel vrouwen over de hele wereld online misbruik ervaren, zwarte vrouwen vaker online worden lastiggevallen dan blanke vrouwen.

Intimidatie werd genormaliseerd, het massaal aanvallen van mensen werd vermaak en misbruik werd bestempeld als ‘vrije meningsuiting’. Deze misdrijven, hoewel ze op het eerste gezicht subtiel lijken, veroorzaken vaak onmetelijke schade bij de slachtoffers.

Wereldwijd heeft onderzoek steeds aangetoond dat vrouwen onevenredig vaak te maken krijgen met online intimidatie, inbegrepen maar niet beperkt, tot vrouwonvriendelijk misbruik, cyberstalking en gecoördineerde opwindende campagnes. Gegevens uit Nigeria doen vermoeden dat deze patronen lokaal nog sterker aanwezig zijn. Zo meldt ActionAid Nigeria dat ongeveer 45 percent van de Nigeriaanse vrouwen te maken heeft gehad met cyberstalking, terwijl bredere studies naar online geweld aangeven dat vrouwen en meisjes tot de meest frequente slachtoffers van digitaal geweld behoren.

Maar na de introductie en het wijdverbreide gebruik van Grok veranderde er iets. Wat eerst door mensen veroorzaakte intimidatie was, begon gestructureerder aan te voelen. 

Hoewel Grok het online gendergerelateerd geweld (OGBV) niet heeft uitgevonden, is het wel een krachtig instrument geworden om het snel en op grote schaal te versterken. 

Structurele omstandigheden die van invloed kunnen zijn op de schade veroorzaakt door AI

Er bestaan ​​structurele kwetsbaarheden in het digitale en institutionele landschap van Nigeria die niet alleen bepalen hoe AI wordt toegepast, maar ook de schade versterken die slecht beheerde systemen kunnen aanrichten. Het is geen geheim dat ons rechtssysteem tekortschiet in het nakomen van zijn verplichtingen onder de rechtsstaat.

In Nigeria bepalen de structurele omstandigheden die het digitale leven vormgeven niet alleen de toegang tot technologie, ze bepalen ook actief wie erdoor getroffen wordt, hoe snel de schade zich verspreidt en hoe moeilijk het is om oplossingen te vinden. Wanneer slecht beheerde systemen in dit landschap worden geïntroduceerd, worden bestaande gendergerelateerde kwetsbaarheden niet alleen blootgelegd, maar ook versterkt.

In Nigeria blijft het regelgevingskader voor AI gefragmenteerd; het huidige beleid en de kaders met betrekking tot digitale vraagstukken zijn verspreid over meerdere instanties, wat eerder verwarring dan duidelijkheid schept over wie verantwoordelijk is voor welke risico's en hoe de waarborgen moeten worden gehandhaafd. 

Een treffend voorbeeld van deze dynamiek is de recente wereldwijde controverse rond Grok.

Grok, ontworpen om afbeeldingen te genereren en te bewerken op basis van eenvoudige gebruikerscommando's, wordt snel misbruikt om miljoenen zonder instemming, geseksualiseerde afbeeldingen te produceren, waaronder afbeeldingen van vrouwen en minderjarigen. Er zijn diverse onderzoeken en rapporten verschenen die beschrijven hoe gebruikers op X openlijk de beeldbewerkingsfuncties van Grok gebruikten om foto's van vrouwen en meisjes te manipuleren, waaronder het omzetten van gewone foto's in onthullende of geseksualiseerde versies zonder toestemming. Zelfs na updates van het platformbeleid melden journalisten en onderzoekers dat de tool in sommige gevallen nog steeds geseksualiseerde afbeeldingen kon genereren, wat wijst op aanhoudende tekortkomingen in matiging en handhaving.

In een land als het mijne, waar online misbruik alomtegenwoordig is en de verantwoordelijkheid van platforms zwak blijft, versterken en versnellen dergelijke AI-tools bestaande misbruikpatronen. Het Rapport, Staat van Online Leed in Nigeria” van Gatefield uit 2024 onthult dat vrouwen het doelwit waren in 58 procent van de gevallen van online misbruik in het land, waarbij X en Facebook werden aangewezen als de belangrijkste platforms waar misbruik plaatsvindt (respectievelijk 34 procent en 29 procent van de gemelde gevallen). Toch vindt slechts 24 procent van de Nigerianen dat X doeltreffend reageert op klachten over online misbruik.

Recent onderzoek en voorspellingen suggereren ook dat het probleem aanzienlijk kan toenemen naarmate generatieve AI-tools zich verder verspreiden. Een nieuw rapport, gepubliceerd door Gatefield in februari 2026, getiteld “Geindustrialiseerd Leed: De Balans van AI-Vergemakkelijkt Geweld in Nigeria“, schat dat 70 miljoen Nigeriaanse vrouwen en meisjes tegen 2030 jaarlijks blootgesteld zouden kunnen worden aan online misbruik via AI, waarvan er 30 miljoen rechtstreeks het doelwit zijn.

Deze kloof tussen schade en verantwoordelijkheid creëert een vruchtbare bodem voor misbruik met behulp van AI. Wanneer platforms er niet in slagen het beleid effectief te handhaven, verlagen generatieve AI-tools de drempel voor het produceren en verspreiden van uitbuitende inhoud, waardoor de toch al ernstig gendergerelateerde crisis op het gebied van digitale veiligheid verergert. In een omgeving waar vrouwen onevenredig vaak het doelwit zijn en meldingsmechanismen algemeen als onbekwaam worden beschouwd, introduceert AI geen nieuw probleem. In plaats daarvan vergroot het een bestaand probleem.

Zonder effectieve moderatie en handhaving op platforms zoals X, worden AI-tools een aanjager van gendergerelateerd geweld, waardoor de drempel voor het produceren en verspreiden van uitbuitende inhoud lager wordt.

Onder het inkomstenbeleid van X, waarbij virale inhoudsmakers geld kunnen verdienen met klikken en interactie, krijgen daders de kans om geld te verdienen met hun acties. Dit is waar algoritmes een rol spelen. Platforms zijn geen neutrale omgevingen. Algoritmes bepalen wat er wordt getoond, welke trends er zijn en wat wordt beloond met zichtbaarheid, mogelijk ten koste van de meest kwetsbaren. Wanneer door AI gegenereerde intimidatie wordt behandeld als ‘boeiende inhoud’, wordt het versterkt en worden vrouwen, met name vrouwen uit de mondiale meerderheid, het slachtoffer.

Hoe ontwerpen tegen schade in plaats van erop te reageren?

Bij Superbloom hebben we, via ons Tech Policy Design Lab in samenwerking met Tope Ogundipe van TechSocietal, een Gendered Privacy Evaluation Framework ontwikkeld om die vraag te beantwoorden. Gebaseerd op fundamentele regels van de mensenrechten en op gezamenlijk onderzoek, biedt het framework aan technologiebedrijven een praktische manier om te beoordelen of hun tools – met name AI-systemen – gendergerelateerd leed versterken of juist verminderen.

Het spoort platformen aan om verder te kijken dan oppervlakkige veiligheidsfuncties en de dieperliggende systemen te onderzoeken: bestuurlijke verplichtingen, personeelstraining over het door de technologie vergemakkelijkt gendergerelateerd geweld, toegankelijke klachtenprocedures, een zinvolle selectievakjes toestemming, dataminimalisatie, encryptie en daadwerkelijke betrokkenheid van belanghebbenden, waaronder vrouwenrechten-organisaties.

AI kan bestaande ongelijkheden versterken. Door voor en na de inschrijving rekening te houden met gendergerelateerde privacy wordt ervoor gezorgd dat vernieuwing niet ten koste gaat van de veiligheid van vrouwen. De tools bestaan al om op een meer verantwoorde manier te ontwerpen. De hamvraag is of platformen bereid zijn ze te gebruiken.