Een Nederlandse rechter heeft xAI, het AI-bedrijf van Elon Musk, opgedragen om te stoppen met het genereren en verspreiden van seksueel getinte beelden van mensen zonder hun toestemming. De rechtbank Amsterdam oordeelde dat de chatbot Grok hiermee de privacy van mensen schendt en legde een dwangsom op van 100.000 euro per dag bij niet-naleving.

De uitspraak is onderdeel van een bredere Europese discussie over de regulering van AI-gegenereerde afbeeldingen. Meerdere landen worstelen met de vraag hoe zogenoemde deepfakes en niet-consensuele naaktbeelden juridisch moeten worden aangepakt. De Nederlandse uitspraak is daarin een van de eerste concrete rechtszaken gericht tegen een grote AI-provider.

Voor xAI is dit een diplomatiek probleem: het bedrijf opereert vanuit de VS, maar zijn producten zijn wereldwijd toegankelijk. De Nederlandse rechtbank stelt zich bevoegd omdat Grok actief in Nederland wordt gebruikt. Het is nog onduidelijk hoe xAI de technische naleving zal afdwingen en of het bedrijf in beroep gaat.