Het Amerikaanse Commerce Department heeft overeenkomsten ondertekend met Google DeepMind, Microsoft en xAI om hun frontier AI-modellen te testen op nationale veiligheidsrisico’s voordat ze publiek worden vrijgegeven. Het initiatief loopt via het nieuwe Center for AI Safety and Innovation (CAISI) en markeert een historische verschuiving in hoe de Amerikaanse overheid omgaat met AI-regulering.

Onder de overeenkomsten krijgen overheidsdeskundigen vroegtijdige toegang tot nieuwe AI-modellen om ze te evalueren op mogelijkheden die nationale veiligheid kunnen bedreigen, zoals het genereren van gevaarlijke biologische instructies of het vergemakkelijken van cyberaanvallen. De modellen worden getest in een beveiligde omgeving voordat de publieke lancering plaatsvindt.

De stap volgt op eerdere Pentagon-contracten met NVIDIA, Microsoft en Anthropic voor AI op geclassificeerde militaire netwerken, en op de restricties die Anthropic en OpenAI recent hebben doorgevoerd op de cybermogelijkheden van hun krachtigste modellen. De Trump-regering verschuift daarmee van een laissez-faire-benadering naar actieve modelbeoordeling, al blijft het programma vrijwillig en niet-verplicht.

Opvallend afwezig in de overeenkomst: Anthropic en OpenAI, twee van de grootste AI-bedrijven, die al eerder zelfbeperking op cybermogelijkheden hebben toegepast. De focus op Google DeepMind, Microsoft en xAI suggereert dat deze bedrijven de grootste ongeteste modellen in de pijplijn hebben. Critici waarschuwen dat een vrijwillig programma zonder wettelijke handhavingsbevoegdheid onvoldoende is om de snelheid van AI-ontwikkeling bij te houden.