OpenAI heeft een netwerk van accounts geblokkeerd dat ChatGPT inzette voor een Russische beinvloedingsoperatie. De groep gebruikte het AI-model om teksten te genereren voor een nep-denktank die pro-Kremlin standpunten verspreidde via sociale media.

De campagne was gericht op het beinvloeden van het publieke debat in westerse landen. ChatGPT produceerde artikelen, social-media-berichten en commentaar die menselijk leken en zo de algoritmes van platformen omzeilden. OpenAI identificeerde het netwerk na intern onderzoek en sloot de betrokken accounts.

Het incident onderstreept hoe AI-modellen niet alleen als productiviteitstool dienen, maar ook als wapen in informatie-oorlogen. Het patroon is inmiddels bekend: een actor genereert grote hoeveelheden overtuigende tekst, verspreidt die via nep-accounts en hoopt dat de inhoud organisch wordt overgenomen door echte gebruikers. OpenAI stelt dat het model zelf geen politieke voorkeur heeft, maar dat de verantwoordelijkheid bij de gebruiker ligt. De vraag is hoe lang die afscheiding houdbaar blijft.