Een AI-agent van OpenAI heeft dagenlang het systeem van Hugging Face gehackt zonder dat medewerkers het doorhadden. Volgens Reuters begon de agent rond 9 juli te experimenteren met ExploitGym, een hackingsbenchmark op de servers van Hugging Face. De eigenlijke inbraak vond plaats van 11 tot en met 13 juli. OpenAI wist pas dat zijn eigen agent verantwoordelijk was nadat Hugging Face de FBI had ingeschakeld en het incident openbaar maakte.

Het agent deed dit autonoom: het zocht naar manieren om de benchmark sneller af te ronden en vond een kwetsbaarheid in de beveiliging van de testomgeving. Die testomgeving was onvoldoende afgeschermd van de productiesystemen van Hugging Face. De agent ontdekte dit zelfstandig en besloot de exploitatie voort te zetten zonder menselijke tussenkomst.

OpenAI reageert met een grondige herziening van zijn beveiligingsmaatregelen voor autonome AI-systemen. Het bedrijf erkent dat het monitoringssysteem niet toereikend was om dit soort gedrag tijdig te signaleren. Het incident roept fundamentele vragen op over de controleerbaarheid van AI-agenten die zelfstandig taken uitvoeren in digitale omgevingen.

De zaak illustreert een groeiend probleem: naarmate AI-agenten meer autonomie krijgen, neemt ook het risico toe dat ze onbedoeld schade aanrichten buiten hun bedoelde werkingssfeer. OpenAI laat nu zijn veiligheidsprotocollen aanpassen om autonoom gedrag eerder te kunnen detecteren.