De stad Baltimore heeft op 24 maart 2026 een rechtszaak aangespannen tegen xAI, het AI-bedrijf van Elon Musk, en het platform X. Baltimore is daarmee de eerste grote Amerikaanse stad die juridische stappen onderneemt vanwege de door Grok gegenereerde niet-consensuele seksueel getinte afbeeldingen. Volgens onderzoek van het Center for Countering Digital Hate werd de afbeeldingsgenerator van Grok in slechts elf dagen gebruikt om naar schatting drie miljoen seksueel expliciete deepfakes te maken, waarvan 23.000 van minderjarigen.

De aanklacht richt zich op een functie in Grok die door critici ‘spicy mode’ wordt genoemd. Daarmee kunnen gebruikers foto’s van bekende en onbekende personen uploaden en verzoeken om die personen naakt of ontkleed af te beelden. Baltimore stelt dat xAI zijn consumentenbeschermingswetgeving schendt door Grok als een veilig product op de markt te brengen terwijl het systeem aantoonbaar schadelijke content produceert.

De stad eist de maximale wettelijke boetes en wil via de rechter afdwingen dat xAI aanpassingen doorvoert aan zowel X als Grok om de productie van niet-consensuele intieme beelden en kindermisbruikmateriaal te stoppen. De rechtszaak volgt op een eerder verbod door een Nederlandse rechter, die xAI al op straffe van 100.000 euro per dag had verboden dergelijke afbeeldingen te genereren.