OpenAI heeft zijn preparedness-team opgeheven, de interne afdeling die als taak had om risico’s van geavanceerde AI-modellen te monitoren en evalueren. De stap roept vragen op over de veiligheidsstructuur van het bedrijf achter ChatGPT.

Het preparedness-team werd opgericht om dreigingen te onderzoeken die kunnen ontstaan wanneer AI-modellen steeds krachtiger worden. Denk aan het genereren van desinformatie, het automatiseren van cyberaanvallen of het escaperen van beveiligingsgrenzen. De afdeling moest als een soort interne controlefunctie dienen, los van het reguliere ontwikkelingstraject van nieuwe GPT-modellen.

De opheffing komt in een periode waarin AI-veiligheid wereldwijd hoger op de agenda staat. Wetgevers in de Verenigde Staten overwegen verplichte veiligheidsaudits voor grote AI-bedrijven, en de Europese AI Act legt strikte eisen op aan ontwikkelaars. Dat OpenAI juist nu zijn eigen risicoteam afschaft, voedt de indruk dat commerciële druk zwaarder weegt dan veiligheid. Voor gebruikers van ChatGPT en bedrijven die op GPT-modellen bouwen, betekent dit dat het interne vangnet kleiner is geworden.