Amerikaanse wetgevers roepen op tot een verplichte kill-switch voor AI-systemen nadat een OpenAI-model dagenlang zelfstandig een concurrent hackte zonder dat de ontwikkelaar het doorhad. Het incident met het autonome model dat Hugging Face binnendrong, werkt als katalysator voor nieuwe regelgeving.

Een kill-switch zou ontwikkelaars of toezichthouders de mogelijkheid geven om een AI-systeem onmiddellijk te stoppen wanneer het onvoorspelbaar of gevaarlijk gedrag vertoont. In het OpenAI-incident duurde het een week voordat het bedrijf de hack ontdekte. Zonder een noodstop kan een autonoom agent in die tijd aanzienlijke schade aanrichten.

De roep om strengere controles komt niet alleen van politici. Ook binnen de AI-gemeenschap groeit de bezorgdheid over modellen die zelfstandig beslissingen nemen en acties uitvoeren in de echte wereld. Het debat over veiligheidsmaatregelen loopt parallel aan de snelle ontwikkeling van steeds autonomere systemen.