Illustratie door Tactical Tech, met visuele elementen van Yiorgos Bagakis en Alessandro Cripsta.

Dit artikel werd geschreven door Safa Ghnaim in samenwerking met Goethe-Institut Brazil en oorspronkelijk gepubliceerd [en] op DataDetoxKit.org [en]. Een bewerkte versie is opnieuw gepubliceerd door Global Voices onder een samenwerkingsovereenkomst. 

Kunstmatige intelligentie (AI) tools – vooral die welke afbeeldingen, video's en audio genereren – zijn op de markt gebracht als “creativiteitsapps” voor individuen en “efficiëntietools” voor bedrijven, maar er zijn weinig manieren om te controleren hoe ze daadwerkelijk worden gebruikt en welke schade deze kunstmatig gecreëerde beelden kunnen aanrichten.

Het is misschien geen verrassing dat AI-tools het probleem van online pesterijen nog erger maken, bijvoorbeeld door het maken en delen van niet-consensueel intiem beeldmateriaal (NCII) – dit zijn intieme foto's of video's, inclusief naakt of seksueel suggestieve of expliciete beelden die iemands echte of door AI gegenereerde lichaam blootgeven, die zonder hun toestemming worden gedeeld.

NCII treft veel mensen – niet alleen de beroemdheden waarover je in de media hoort – en het is niet eenvoudig om ermee om te gaan. Zelfs platformen en wetshandhavers hebben moeite om bij te blijven [en].

Het probleem is groter dan je zou denken

De technologie ontwikkelt zich zo snel dat er nu maar één foto van iemand nodig is (en dat kan zelfs een heel onschuldige foto zijn) om seksueel expliciete inhoud te creëren met behulp van een van de vele AI-tools.

Terwijl bepaalde AI-tools het probleem van pesterijen verergeren door het makkelijk te maken om van iedereen een NCII te maken, worden andere AI-tools gebruikt om het probleem aan te pakken. AI-tools die getraind zijn om AI-beelden te detecteren zijn echter niet perfect en veel van het werk om ze te identificeren en te verwijderen ligt nog steeds bij de mensen die werken als content moderators.

Een van de meest opzienbarende gevallen in 2024 betrof seksueel expliciete door AI gegenereerde deepfake [en] afbeeldingen van Taylor Swift. Deze afbeeldingen verschenen voor het eerst op 4chan en verspreidden zich binnen enkele minuten als een lopend vuurtje over verschillende sociale mediasites. Een van de afbeeldingen werd meer dan 47 miljoen keer bekeken voordat deze werd verwijderd. Het is mogelijk dat deze afbeeldingen nog steeds online worden gedeeld omdat er geen echte manier is om ze volledig van het internet te wissen.

Maar dit is geen op zichzelf staand geval. Volgens een onderzoek uit 2021 [en],  gaf 41 procent van de meer dan 10.000 respondenten in de VS aan dat ze persoonlijk een vorm van online intimidatie hadden meegemaakt. Van de respondenten jonger dan 35 jaar zei 33 procent van de vrouwen en 11 procent van de mannen dat ze specifiek online seksuele intimidatie hadden meegemaakt.

Uit een analyse van 2023 [en] van meer dan 95.000 deepfake video's bleek dat 98 procent daarvan deepfake pornografie was en dat 99 procent van de personen die het doelwit waren, vrouwen waren. Andere kwetsbare groepen, zoals minderjarigen en LGBTQ+ mensen, zijn ook onevenredig vaak slachtoffer van online seksuele intimidatie.

Welke stappen kun je nemen om jezelf te beschermen tegen dit soort intimidatie?

Online platformen hebben een aantal veiligheidsmaatregelen genomen om je te helpen je informatie af te schermen voor ongewenste blikken. Hoewel je met deze tips geen ondoordringbaar fort kunt bouwen, kunnen ze het wel moeilijker maken voor pestkoppen of mensen die je kwaad willen doen.

Elk platform is anders en heeft instellingen en opties die toegankelijk zijn voor gebruikers. Als voorbeeld zijn hier een paar dingen die je kunt doen om de controle op je Instagram en TikTok te verscherpen:

• Stel je profiel in op “privé”. Op platforms zoals Instagram en TikTok kun je je profiel instellen op privé, zodat in de meeste gevallen alleen mensen die jij goedkeurt als volgers kunnen zien wat je deelt. Ze kunnen echter nog steeds opmerkingen zien die je maakt op posts van anderen en kunnen je zelfs nog steeds berichten sturen. Leer hoe je je profiel op privé kunt zetten op  Instagram en TikTok.
• Verwijder volgers of blokkeer mensen. Als iemand het je moeilijk maakt of je een ongemakkelijk gevoel geeft, kun je diegene verwijderen als volger of helemaal blokkeren. Maar als je de persoon in het echt kent, heb je een andere strategie nodig. Leer hoe je mensen blokkeert op Instagram en TikTok.

Er is een dorp voor nodig

Als je ziet hoeveel mensen het doelwit zijn van online pesterijen, lijkt het logisch om aan te nemen dat er ook veel pesters zijn. Maar het is een feit dat er maar één boosdoener nodig is om wijdverspreide schade aan te richten. Zou jij iemand die NCII opnieuw deelt als een treiteraar beschouwen, zelfs als hij of zij de afbeeldingen oorspronkelijk niet heeft gemaakt? In het voorbeeld van Taylor Swift waren er maar een paar mensen nodig om de NCII van haar te maken, maar het zou niet viraal zijn gegaan zonder dat veel mensen het hadden gedeeld.

Dus hoe kun je een bondgenoot zijn voor iemand die het doelwit is en wordt lastiggevallen? Welk social media-platform je ook gebruikt, het heeft waarschijnlijk een “meld”-functie. Op apps zoals Instagram kun je specifieke berichten of hele profielen of accounts rapporteren als je iets ziet dat lijkt op misbruik of intimidatie. Rapporteren op Instagram is een geweldige optie om problematische mensen of dingen die je ziet of hoort te signaleren. Instagram deelt de identiteit van de persoon die rapporteert niet met de persoon die gerapporteerd wordt.

Wanneer je “rapporteert” op Instagram, kan het platform de post verwijderen of het profiel of account waarschuwen, deactiveren of verbannen, afhankelijk van wat er is gebeurd en of het in strijd is met hun Community Guidelines. Opgemerkt moet worden dat de communityrichtlijnen van Meta niet altijd behulpzaam zijn [en], en dat het verwijderen van posts en het verbieden van accounts onlangs tot controverses hebben geleid [en].

Als je de persoon die het doelwit is persoonlijk kent, neem dan voorzichtig contact met hem of haar op als je je daar goed bij voelt. Het kan zijn dat ze geen idee hadden dat dit gebeurde en dat ze reageren met sterke ontreddering, woede of verdriet. Als je je bereid voelt om hen te steunen, kun je hen hulpmiddelen aanbieden (zoals de links aan het einde van deze gids) en hen helpen om de pesterijen in de gaten te houden en te documenteren.

Hoewel je de pesterijen waarschijnlijk niet meer wilt zien, kan het nuttig zijn om ze te documenteren voordat ze worden verwijderd. Overweeg om een video-opname of screenshot te maken van de post of opmerking met de accountnaam van de andere persoon en de datum. Bewaar de documentatie ergens veilig en uit het zicht op je telefoon of computer. Op sommige telefoons kun je bijvoorbeeld een met een wachtwoord beschermde “veilige map” instellen.

Documentatie kan, als het goed gedaan wordt, nuttig zijn voor het geval de persoon die het doelwit is, besluit om de zaak voor te leggen aan de wetshandhaving en een soort bewijs nodig heeft.

Het is belangrijk dat de persoon die het doelwit is, beslist wat hij of zij wil doen. Willen ze contact opnemen met de politie, een advocaat inschakelen of contact opnemen met hun school, universiteit of werkplek? Of houden ze het liever zo vertrouwelijk mogelijk? Vooral in een situatie van NCII wordt hen zoveel keuze ontnomen, dus zorg ervoor dat je hen steunt om de controle terug te krijgen.

Weet waar je terecht kunt voor hulp

Als jij of iemand die je kent te maken heeft met NCII, weet dan dat er betrokken organisaties zijn die je willen helpen. Je hoeft het niet alleen te doen. Hier zijn er een paar die Engelstaligen ondersteunen:

• Chayn (wereldwijd): Chayn biedt middelen en ondersteuning aan overlevenden van gendergerelateerd geweld.
• StopNCII (wereldwijd): StopNCII heeft een databank met hulpmiddelen en een tool [en] die je kan helpen om niet-vrijwillige intieme beelden te laten verwijderen.
• Take Back the Tech (wereldwijd): Take Back the Tech biedt uitleg en hulpmiddelen zoals Hey Friend, met tips over hoe je je vrienden kunt steunen als ze het doelwit zijn van pesterijen.
• RAINN's National Sexual Assault Hotline (VS): RAINN biedt een privé-hotline waar je online kunt chatten of een medewerker kunt bellen die crisistraining heeft gevolgd.
• Take It Down (VS): Take It Down helpt je stap voor stap bij het indienen van een verwijderingsverzoek voor NCII.
• Cyber Civil Rights Initiative (CCRI) (VS): CCRI bevat stapsgewijze richtlijnen en lijsten met adovaten en wetten uit de VS. Ze hebben ook een lijst met internationale bronnen.
• Revenge Porn Helpline (Verenigd Koninkrijk): De Revenge Porn Helpline geeft advies aan volwassenen die het doelwit zijn geweest.
• Umi Chatbot (Australië): De Umi Chatbot is een snelle manier om informatie te krijgen over hoe om te gaan met NCII. Op de website vind je ook informatie over het verzamelen van bewijsmateriaal en rapportage.

Voor meer tips en bronnen over hoe om te gaan met online intimidatie:

• “You’re Not Powerless in the Face of Online Harassment”
• “What to do if you or someone you know is targeted with deepfake porn or AI nudes”