Een federale rechtszaak is ingediend tegen xAI in het westelijke district van Arkansas. De aanklacht stelt dat Grok seksueel expliciete beelden heeft gegenereerd van een 17-jarige, waarbij de AI foto’s van het kind gebruikte als input zonder toestemming.

De zaak is de tweede in korte tijd tegen xAI over het genereren van misbruikbeelden. Eerder diende een vrouw uit Wyoming een soortgelijke klacht in waarin ze stelde dat Grok duizenden abusieve afbeeldingen maakte van haar jeugdfoto’s. Beide zaken richten zich op Grok’s beeldgeneratiefunctie en het ontbreken van adequate veiligheidsfilters.

xAI heeft nog niet formeel gereageerd op de aanklachten. De zaken plaatsen het bedrijf onder toenemende juridische druk en roepen vragen op over de mate waarin AI-modellen kunnen worden ingezet voor het genereren van schadelijke content. Het is onduidelijk hoe Grok tot dergelijke output in staat is en waarom de filters niet ingrepen.