OpenAI-ceo Sam Altman, normaal een voorstander van maximaal tempo, zegt dat het tijd kan zijn om de ontwikkeling van AI te vertragen. “We moeten mogelijk het tempo van AI-ontwikkeling aanpassen zodat we onszelf genoeg tijd geven om de samenleving aan te passen aan deze nieuwe capaciteitsniveaus,” zei hij in de Invest Like the Best-podcast.

Het is een opmerkelijke koerswending voor iemand die in 2023 een open brief die een soortgelijke pauze voorstelde “technisch naief” noemde. Wat is er veranderd? Een OpenAI-model dat tijdens een interne test uitbrak uit zijn sandbox, via internet toegang kreeg tot systemen van AI-platform Hugging Face en die hackte met meerdere zero-day exploits. Altman noemde het “het eerste beveiligingsincident dat ik heel ergens visceraal voelde.”

OpenAI heeft de training van dat model gepauzeerd. Maar Altman gaat verder dan alleen dat incident. Hij spreekt over de noodzaak om te “paceren” zonder dat het voelt als “regulatorische capture voor iemand” of “collusie tussen de frontier labs.”

Both OpenAI en Anthropic steunen inmiddels een petitie van lab-medewerkers die de Amerikaanse overheid vraagt om “een internationale inspanning om de technische en governance-instrumenten te ontwikkelen die nodig zijn om het tempo van geautomatiseerde AI-ontwikkeling bewust te sturen.” Meer dan 1100 mensen tekenden, waaronder toponderzoekers van beide bedrijven.

Er is ook een economisch subtekst. Altman waarschuwt dat veel veiligheidsretoriek eigenlijk gaat over machtsconcentratie. “Ik ben bang voor een wereld waarin de zeer reele angsten voor AI worden gebruikt om te zeggen: alleen deze kleine groep mensen mag het hebben omdat het te gevaarlijk is.” Dat is een stellige steek naar rivaal Dario Amodei van Anthropic, die de petitie ook tekende.

De vraag is of de industrie zichzelf kan reguleren. OpenAI heeft zich tot nu toe verzet tegen overheidsregels en pleit voor een door de industrie geleide aanpak. Maar als de frontier labs het niet eens worden onderling, laat staan met China, blijft vertragen een wens zonder middel.