xAI is door een nieuwe rechtszaak beschuldigd van het trainen van Grok op kindermisbruikmateriaal. Een aanklager onder de naam Jane Doe, zelf slachtoffer van misbruik in haar jeugd, stelt dat xAI haar beelden heeft gebruikt om Grok te trainen. De Canadian Centre for Child Protection had AI-gegenereerd materiaal op xAI geïdentificeerd dat op haar leek.
De aanklacht beschrijft een verontrustend patroon. Grok zou zijn getraind op zowel echt misbruikmateriaal als op AI-gegenereerde beelden. Slachtoffers vrezen dat xAI gegenereerde beelden opslaat en gebruikt om Grok verder te trainen, waardoor het probleem zichzelf versterkt. Meerdere Grok-gebruikers zijn inmiddels gearresteerd voor het maken van misbruikmateriaal met de AI.
De zaak past in een reeks rechtszaken tegen xAI. Eerder diende een federale zaak in Arkansas over door Grok gegenereerde beelden van een minderjarige. Daarnaast daagt xAI zijn eigen gebruikers voor de rechter om verdere aansprakelijkheid af te wenden. De nieuwe aanklacht richt zich op het trainingsproces zelf, niet alleen op de output. Een juridische hoek die de hele AI-sector kan raken als de rechter xAI in het ongelijk stelt.