De federale rechtszaak tegen xAI over Grok breidt uit met nieuwe eisers die beweren dat de AI-chatbot kindermisbruikmateriaal genereerde. Minstens vijf nieuwe rechtszaken zijn ingediend, en een rechter in San Jose weigerde xAI’s verzoek om de namen van de aanklagers openbaar te maken vanwege het risico op verdere misbruik.

Parallel verdedigt de staat Minnesota zijn verbod op AI-nudificatietechnologie tegen een rechtszaak van xAI. De procureur-generaal stelt dat xAI’s poging om het verbod tegen te houden misplaatst is en waarschijnlijk zal falen. Minnesota was de eerste staat die een dergelijk verbod invoerde, dat nu van kracht is.

De zaken benadrukken het spanningsveld tussen AI-vrijheid en bescherming van minderjarigen. xAI stelt dat Grok beschermd is door de vrijheid van meningsuiting, maar de aanklagers betogen dat het genereren van misbruikmateriaal niet onder die bescherming valt. De uitkomst kan precedent scheppen voor toezicht op AI-gegenereerde inhoud.