Eén van de belangrijkste apps waarmee eenvoudig AI-porno en geseksualiseerde beelden van vrouwen en kinderen kunnen worden gegenereerd is de in X geïntegreerde chatbot Grok van Elon Musks bedrijf xAI. De Europese Commissie is, aangespoord door onder andere Engeland en Frankrijk, een onderzoek gestart naar Grok. De commissie noemt het ongevraagd creëren van deepfakes “een gewelddadige en onaanvaardbare vorm van vernedering” en zij wil dat het in de EU niet meer mogelijk is bestaande mensen met de app digitaal ‘uit de kleden’.
Offlimits noemt apps zoals Grok gevaarlijk en schadelijk. Directeur-bestuurder Robbert Hoving: “Chatbots die seksuele gesprekken met jongeren kunnen voeren, apps die naaktbeelden maken en door AI gegenereerde misbruikbeelden van kinderen zijn slechts enkele van de risico’s die we al waarnemen. Kunstmatige intelligentie vormt een steeds grotere uitdaging. Denk aan een chatbot die gesprekken kan voeren. Zo kunnen ideeën over consent transformeren. Chatbots vinden alles goed. Waarom zouden opvattingen uit de manosphere dan offline niet gelden?”
Hoving wijst erop dat “het 24/7 kunnen vervaardigen van naaktbeelden verslaving in de hand kan werken en jongeren kan afstompen. Daarom zijn wij de campagne Okenietoke gestart. Gecreëerde naaktbeelden van bestaande jongeren kunnen eenvoudig gebruikt worden als middel om sextortion (= een vorm van cyberchantage; red.) te plegen.” Voor de slachtoffers maakt het geen verschil of echte naaktbeelden of AI-naaktbeelden verspreid worden. De impact is in beide gevallen even groot.
Het maken van deepfakes met AI is volgens Hoving mogelijk “omdat er adequate vangrails ontbreken.” Van mensen als Musk hebben we op dat punt weinig te verwachten. Hij reageerde laconiek op de kritiek op Grok, had de mond vol over ‘censuur’ en plaatste een door AI vervaardigde foto van zichzelf in bikini. Hij claimde aanvankelijk ook geen ongepaste beelden te hebben gezien en schoof de verantwoordelijkheid af op de gebruikers. Hoving: “We hebben hem nog nooit op een moreel kompas kunnen betrappen.”
Onder druk beloofde Musk Grok aan te passen, maar bedrijven zoals xAI zouden veel strenger op hun verantwoordelijkheid moeten worden aangesproken, vindt Offlimits. Hoving wil niet wachten op regulering door Musk of ingrepen door de EU. De (nieuwe) Nederlandse regering moet direct aan de slag om online seksueel geweld steviger aanpakken. “Er is wetgeving. Die is nieuw, dus ze moet uitgetest worden. Wat vindt een rechter ervan?”
Er is dringend politieke actie nodig om het toezicht op en de bestrijding van online seksueel geweld te verbeteren. Hoving: “Wij hebben hierover een handhavingsverzoek gestuurd.” In een brandbrief aan de overheid schrijven diverse organisaties waaronder Offlimits: ‘Kunstmatige intelligentie dreigt de samenleving als een lawine te bedelven en in een digitale dystopie te veranderen’. Offlimits roept specifiek op tot een verbod van nudify-websites en apps met AI-tools waarmee iemand deepnudes kan maken. De organisatie noemt de nudify-apps ‘een ongeluk in slow-motion’.
Wat kan Offlimits betekenen voor slachtoffers van online seksueel geweld?
Hoving: “Offlimits biedt als Trusted Flagger (= een door de overheid erkende organisatie die gespecialiseerd is in het opsporen en melden van illegale online content; red.) eerste hulp bij online ongelukken. Online grensoverschrijdend gedrag dus. Kom je beeldmateriaal tegen van kindermisbruik, gemaakt met AI of niet, dan kun je dit melden bij ons meldpunt met het verzoek het te laten verwijderen.”
“Ben je slachtoffer van online misbruik en worden bijvoorbeeld naaktfoto’s – echt of niet – gebruikt om je onder druk te zetten? Dat is strafbaar. Neem contact op met onze hulplijn voor pragmatisch advies. We kunnen je helpen bij het verwijderen van foto’s of je doorgeleiden naar passende hulp. Maak je je zorgen over het type content dat je kijkt? Neem dan contact op met onze preventielijn voor passende hulp.”
Wat kunnen mensen zelf doen tegen persoonlijk AI-beeldmisbruik?
Hoving: “Praat erover. Je bent niet alleen. Neem indien nodig contact op met ons voor advies en actie. Dit probleem is op te lossen.”
