Anthropic-ceo Dario Amodei heeft zich uitgesproken over open-weight AI-modellen. Hij is er geen voorstander van om ze te verbieden, maar maakt zich wel ernstig zorgen over de opkomst van Chinese AI.

De aanleiding is een open brief die Nvidia-ceo Jensen Huang op 25 juli publiceerde, ondertekend door Hugging Face, Meta, Microsoft, Mistral en Nvidia. De brief pleit tegen “premature beperkingen” op open-weight modellen. Hoewel de brief China niet noemt, draait het debat in de praktijk om beschuldigingen dat Chinese AI-lab’s intellectueel eigendom stelen van Amerikaanse concurrenten via distillatie.

Amodei wil dat duidelijk is: Anthropic heeft nooit gevraagd om een verbod op open-weight modellen. “Open-weight modellen zonder gevaarlijke capaciteiten zijn een publiek goed,” schrijft hij. “Ze kosten niets behalve de rekenkracht om ze te draaien, en ze leveren waarde voor bedrijven, ontwikkelaars en onderzoekers.”

Maar hij heeft wel een andere zorg. Niet bedrijven die open-weight modellen gebruiken, zelfs niet de Chinese varianten. Zijn angst is dat autoritaire regeringen modellen bouwen die machtiger zijn dan de Amerikaense, om permanent militair overwicht te bereiken of AI in te zetten voor onderdrukking van eigen burgers. De Chinese Communistische Partij is volgens hem de “meest capabele” autoritaire regering.

Open-weight modellen zijn in dat scenario gevaarlijker, stelt Amodei, omdat je er moeilijk guardrails op kunt toepassen of het gebruik kunt monitoren. Eenmaal uitgebracht, kun je ze niet meer terugdraaien, aldus een rapport van het Britse AI Security Institute dat hij aanhaalt.

Zijn oplossing: chipbeperkingen voor China handhaven, een formele aanpak van distillatie, en een internationale organisatie voor modelveiligheidstests. Zelfs China zou daarbij moeten aanhaken, vindt hij, omdat het ook in hun belang is om AI-biologische wapens te voorkomen.

De positie van Amodei is opmerkelijk omdat hij open-weight tegenstanders en voorstanders allemaal de wind uit de zeilen neemt. Hij verwerpt een verbod maar waarschuwt wel voor de risico’s. Dat is een nuance die in het verhitte debat over Chinese AI zeldzaam is.