Een vakantiefoto, een selfie op Instagram: met één klik kan het worden omgezet in een nepnaaktbeeld. Via zogeheten ‘uitkleedapps’ worden foto’s van vooral vrouwen en meisjes met AI bewerkt en verspreid op platforms als Telegram.
Onderzoeksprogramma Pointer dook in deze duistere wereld en ontdekte dat het probleem veel groter is dan we denken. Vandaag is het programma te zien.
Jos de Groot, presentator van Pointer, komt tijdens zijn werk regelmatig online op plekken waar je liever niet komt. Dit keer stuitte het KRO-NCRV programma op een Telegram-groep met 2200 leden waarin AI-beelden worden gedeeld van vrouwen die zogenaamd naakt zijn.
Donkere hoekjes van het internet en AI
‚,We bevinden ons met Pointer vaker in de donkere hoekjes van het internet”, vertelt De Groot. ‚,Op Telegram denken mensen vaak dat ze onzichtbaar zijn. Maar wij kijken mee. In zo’n groep zie je hoe respectloos er over de vrouwen in kwestie wordt gesproken. Dat vond ik schokkend.”
Telegram is volgens De Groot populair onder verspreiders van dit soort beelden omdat het relatief anoniem is. ‚,Je kunt jezelf op Telegram makkelijk verstoppen. In onze aflevering hebben we geprobeerd met leden van de groep in gesprek te gaan, maar daar waren niet veel oren naar.”
Bekende influencers en minderjarigen de dupe
Uit het onderzoek blijkt dat er in de groep beelden werden gedeeld van zeker 37 bekende Nederlandse en Vlaamse influencers. In elf gevallen ging het zelfs om vrouwen die op het moment van de originele foto minderjarig waren. Dat maakt de beelden automatisch kinderpornografisch en strafbaar.
De foto’s zijn vaak afkomstig van socialmediaprofielen. Via AI-tools worden de vrouwen digitaal uitgekleed en vervolgens gedeeld. ‚,Veel mensen realiseren zich niet dat je mogelijk strafbaar bent als je dit soort beelden maakt of verspreidt, ook al zijn ze nep”, zegt De Groot. ,‚Zeker als het om minderjarigen gaat, dat valt altijd onder kinderporno.”
AI maakt pesten op school nog pijnlijker
Het probleem beperkt zich niet tot bekende gezichten. Uit een enquête onder 62 middelbare scholen blijkt dat 24 procent van de leerlingen aangeeft dat er weleens wordt gepest met door AI gemaakte naaktbeelden. Bij 10 procent gebeurt dat zelfs vaker dan vijf keer per jaar. Maar liefst 87 procent van de scholen vindt dat AI-uitkleedapps verboden moeten worden.
‚,We zien dat dit op scholen speelt. Leerlingen worden gepest met AI-naaktfoto’s. Misschien lijkt het in eerste instantie grappig, maar voor het slachtoffer is het pijnlijk en beschadigend“, zegt De Groot. ,,Ook al is de foto nep, de gevolgen zijn echt.” Er zijn tegenwoordig ook programma’s om circulerende beelden te verwijderen.
Volgens De Groot is het moeilijk om dit soort uitkleedapps te verbieden. ‚,Veel mensen gebruiken AI om hun leven makkelijker te maken. Maar in de verkeerde handen heeft het een donker randje. Helaas ontwikkelt de technologie zich sneller dan wij wetten kunnen maken.”
En dat baart scholen zorgen. ‚,Scholen zijn echt bang dat dit gaat toenemen. Je kunt jezelf hier bijna niet tegen beschermen. Voorkomen dat iemand een foute app gebruikt om jouw foto te bewerken, is bijna onmogelijk.”
Wat kun je doen als het jou overkomt?
De belangrijkste boodschap van Pointer: praat erover. ‚,Schaam je niet. Jij hebt niets verkeerd gedaan. Zoek hulp, bijvoorbeeld via de organisatie HelpWanted. En doe aangifte, want ook het verspreiden van nepbeelden kan strafbaar zijn.”
Pointer stopt hier niet. ‚,We blijven dit volgen. We zitten nog steeds in Telegramgroepen en komen vaker dingen tegen waarvan we denken: hier moeten we iets mee. Dus de kans is groot dat er een vervolg komt.”
De aflevering van Pointer over AI-nepnaaktbeelden is vandaag (donderdag 24 april) om 16.00 uur te zien op YouTube via KRO-NCRV.
Paulien Cornelisse nieuw jurylid bij De Slimste Mens: dit zijn de reacties
Gijzeling in Apple Store: ‘Geef me 200 miljoen aan bitcoins, of ik blaas alles op’
