Fonds Slachtofferhulp en Offlimits spannen kort geding aan tegen Grok en X

De naaktbeelden die door Grok worden gegenereerd zijn realistisch en kunnen ook op minderjarigen worden toegepast. Dit kan leiden tot materiaal dat kwalificeert als seksueel misbruikmateriaal van minderjarigen en is in strijd met de wet en strafbaar. In het kort geding vorderen de drie partijen Grok en X per direct te stoppen met de functionaliteit waarmee zonder toestemming uitgekleed kunnen worden, en met de functionaliteit waarmee seksueel misbruikmateriaal van minderjarigen kan worden gemaakt. Aan het verbod is een dwangsom gekoppeld van 100.000 euro per dag.

Met de gang naar de rechter willen Fonds Slachtofferhulp, Offlimits en Boekx Advocaten slachtoffers en hun naasten beter beschermen en structurele verandering afdwingen. Hun inzet: duidelijke grenzen aan digitale seksuele uitbuiting, betere aansprakelijkheid en meer veiligheid voor slachtoffers.

'Ongeluk in slow motion'

‘De groep slachtoffers groeit razendsnel,’ zegt Ineke Sybesma, directeur van het Fonds Slachtofferhulp op de vraag waarom de stichting nu in actie komt. ‘Slachtoffers mogen niet de prijs betalen voor technologie zonder grenzen.'

Robbert Hoving, directeur-bestuurder van Offlimits, spreekt van een ‘ongeluk is slow motion’. ‘Met AI-tools bewerkte of gemaakte beelden worden gebruikt om slachtoffers online te pesten, te vernederen of seksueel te intimideren. Bovendien zorgt de laagdrempeligheid van dit soort tools ervoor dat het maken en verspreiden hiervan op grote schaal mogelijk is. Dat vraagt om actie.’

In Nederland is het maken en verspreiden van deepfake-naaktbeelden al verboden bij wet. ‘Nu is het een kwestie om die wet te laten gelden,’ aldus Sybesma.

Rechtszaak

De zaak dient op donderdag 12 maart bij de rechtbank Amsterdam.