xAI, het AI-bedrijf van Elon Musk, sleept een man uit South Carolina voor de rechter wegens het gebruik van Grok voor het genereren van deepfakes met kindermisbruik. Terry Wayne Harwood zou de veiligheidsmaatregelen van Grok hebben omzeild om ongeoorloofde foto’s om te zetten in seksueel beeldmateriaal.

Harwood werd in februari al gearresteerd voor het bezit en de verspreiding van kinderpornografie en acht strafbare feiten. Volgens de rechtszaak werden ten minste sommige afbeeldingen uit de strafzaak gegenereerd of bewerkt met Grok. xAI stelt dat Harwood het systeem misbruikte om niet-seksuele foto’s om te zetten in expliciet beeldmateriaal zonder toestemming van de afgebeelde personen.

Het is de eerste keer dat xAI zelf iemand aanklaagt over deepfakes die met Grok zijn gemaakt. Eerder sleepten tieners het bedrijf al voor de rechter wegens seksueel beeldmateriaal van minderjarigen, en dreigde Apple Grok uit de App Store te bannen. xAI vraagt schadevergoeding en juridische kosten. De zaak markeert een verschuiving: Musk’s bedrijf was tot nu toe vooral verdedigend, maar treedt nu zelf op als eisende partij.