xAI, het bedrijf achter Grok, heeft een gebruiker voor de rechter gebracht wegens het genereren van seksuele deepfakes met het model. De rechtszaak is opmerkelijk omdat xAI zelf recent werd aangeklaagd voor het verspreiden van vergelijkbare inhoud via Grok en nu reageert met een eigen procedure tegen een gebruiker.

De juridische strategie is begrijpelijk vanuit een bedrijfsperspectief: wie de verantwoordelijkheid bij de eindgebruiker legt, verkleint de kans dat het model zelf als bron van de schade wordt beschouwd. Of dat standhoudt in de rechtszaal valt te bezien. Platformen worden steeds vaker aangesproken op wat hun systemen mogelijk maken, niet alleen op wat ze zelf actief doen.

Grok kent een reputatie van weinig remmingen op inhoud. Deze zaak is de eerste keer dat xAI zelf juridisch optreedt tegen een gebruiker, en daarmee een signaal afgeeft dat er grenzen zijn, ook voor een model dat zich profileert als ongeremd.