Een familie uit Arkansas heeft xAI, het AI-bedrijf van Elon Musk, voor de rechter gedaagd. De aanklacht betreft het gebruik van Grok voor het genereren van seksueel misbruikmateriaal van kinderen. De familie stelt dat xAI’s AI-model deepfakes heeft geproduceerd met hun kinderen als onderwerp.

De zaak richt zich op de vraag wie aansprakelijk is wanneer een AI-model wordt gebruikt voor het maken van illegale content: de gebruiker die het model aanstuurt, of het bedrijf dat het model heeft gebouwd. xAI heeft de afgelopen maand meerdere vergelijkbare aanklachten gekregen en kondigde aan maatregelen te nemen tegen misbruik van het platform.

Het is niet de eerste rechtszaak rond AI-gegenereerde deepfakes, maar deze zaak is bijzonder omdat de aanklagers een hele familie betreffen en de beschuldiging specifiek gericht is tegen de maker van het model in plaats van de individuele gebruiker. De uitkomst kan precedent scheppen voor hoe AI-bedrijven verantwoordelijk worden gehouden voor de content die hun modellen produceren.

Musk beloofde recent datawissing na een eerdere privacykwestie rond Grok Build. Die belofte richtte zich echter op het verzamelen van gebruikersgegevens, niet op het voorkomen van illegale content-generatie. De rechtszaak zet de druk op xAI op om niet alleen zijn datapraktijken maar ook zijn veiligheidsmaatregelen tegen misbruik aan te scherpen.