Apple heeft in januari stilzwijgend gedreigd Elon Musks AI-app Grok uit de App Store te verwijderen. De aanleiding: Grok bleef seksuele deepfakes genereren van echte personen, inclusief minderjarigen, ondanks herhaalde waarschuwingen.

Uit een brief die NBC News in handen kreeg, blijkt dat Apple de ontwikkelaars achter X en Grok sommeerde een plan te maken voor betere contentmoderatie. Terwijl X voldeed aan de eisen, bleef Grok volgens Apple buiten lijn. Pas na verder overleg keurde Apple een bijgewerkte versie goed. Gedurende dit hele proces bleef Grok gewoon beschikbaar in de App Store.

De kwestie legt een pijnlijk dubbele standaard bloot: Apple treedt doorgaans hard op tegen schendingen van App Store-regels, maar hield het dit keer binnenskamers. Ondertussen rapporteren beveiligingsonderzoekers dat Grok nog steeds relatief eenvoudig expliciete beelden kan genereren. De vraag hoe groot de verantwoordelijkheid van platformen is voor AI-gegenereerde schadelijke content wordt hiermee alleen maar urgenter.