Een Nederlandse rechtbank heeft xAI, het bedrijf van Elon Musk achter Grok, opgedragen te stoppen met het genereren en verspreiden van niet-consensuele naaktbeelden in Nederland. Bij overtreding riskeert xAI een dwangsom van 100.000 euro per dag. Het is een van de eerste rechtszaken wereldwijd waarbij een AI-bedrijf juridisch aansprakelijk wordt gesteld voor het produceren van deepfake-beelden.
De zaak werd aangespannen door Offlimits, een Nederlands centrum dat online geweld monitort. Gebruikers bleken Grok te kunnen vragen om realistische nep-naaktfoto’s van echte mensen te genereren op basis van gewone foto’s. De rechtbank in Amsterdam oordeelde dat dit in strijd is met de privacy en waardigheid van de betrokkenen.
De uitspraak valt samen met een stemming in het Europees Parlement over een verbod op AI-systemen die seksueel misbruikte deepfakes produceren. Voor xAI is dit een seriöuze juridische tegenslag op de Europese markt, juist op het moment dat Grok 5 nog altijd op zich laat wachten.