Door AI-gegenereerde naaktfoto's van influencers gaan rond in Telegramgroepen

Het journalistieke platform Pointer van KRO-NCRV stuitte op een online-groep waar dergelijke nepnaaktfoto’s worden verspreid. "Wij zijn een Telegramkanaal tegengekomen met meer dan 2000 leden", vertelt Jos de Groot, programmamaker bij Pointer. "Het was bijna professioneel ingevuld", vult hij aan. Doormiddel van een "keuzemenu" geeft het kanaal je opties tot de naaktbeelden verschillende online bekendheden. De groepen bestaan met name uit mannen, die elkaar ophitsen om nieuwe beelden te creëren door middel van AI.

Hoe werkt dit?

Hoe gaat dat in zijn werking? "Iedereen kan dit. Dat klinkt onheilspellend en dat is het ook wel een beetje", zegt De Groot. Via applicaties worden personen in een handomdraai uitgekleed. Je plukt een onschuldige, aangeklede foto van iemands Instagram en uploadt deze op de app. "Binnen dertig seconden staat iemand naakt op de foto", vertelt De Groot. Zo’n app is nog een 'onschuldige' versie. "Sommige applicaties gaan nog verder. Je kan dan vrouwen in een pornografische positie dwingen", vertelt hij.

Zeker 37 influencers zijn uitgekleed teruggevonden in de Telegram-pagina. "Wij kiezen ervoor op die namen niet openbaar te maken", zegt De Groot. Wel zijn alle personen ingelicht en een groot deel van hen heeft aangegeven aangifte te willen doen. "Ze schrokken daar heel erg van en heel veel wisten het ook écht niet. Het was nieuwe informatie voor hen", vertelt hij.

Is het strafbaar?

Het is niet alleen vervelend voor de influencers, in een aantal gevallen is het ook strafbaar. "In 11 gevallen hebben we geconstateerd dat het minderjarigen waren. En in dat geval staat het gelijk aan het verspreiden van kinderporno", aldus De Groot. Het gaat dan om bijvoorbeeld oude foto’s van de influencers. Ze kunnen weliswaar nu meerderjarig zijn, wanneer ze op een oude foto zijn 'uitgekleed' en daar nog minderjarig waren, gaat het dus om kinderporno.

Wat kan je ertegen doen?

"Ik denk dat het heel moeilijk is om hier grip op te krijgen", zegt de programmamaker van Pointer. Veel influencers hebben aangegeven aangifte te willen doen, maar is dit voldoende? Bij minderjarigen is het zeker strafbaar maar "als mensen meerderjarig zijn kan het voor de wet wat ingewikkeld liggen", zegt De Groot. Telegram heeft het kanaal met de foto’s opgedoekt nadat Pointer ze had ingelicht. "Maar we zien nu dat er door een gebruiker die in die groep zat een nieuw kanaal is opgezet."

Sommige politieke partijen pleiten voor een verbod op AI-apps die dit soort dingen mogelijk maken. "Dat is best wel ingewikkeld want dat zou via Europese wetgeving moeten gaan", zegt De Groot. "Wat ook kan, is dat je AI-modellen gaat trainen", zegt hij. Je leert ze dan om dit soort opdrachten niet uit te voeren. Pointer hoopt dat er op deze manier een vergrootglas komt te liggen op dit probleem en dat er daardoor iets in gang wordt gezet.

Donderdag 24 april om 16.00 uur is de aflevering Nepnaaktfoto’s op Telegram te zien op het YouTube-kanaal van Pointer.