Google, Microsoft et xAI laisseront les États-Unis examiner leurs modèles d'IA avant leur sortie

Google DeepMind, Microsoft et xAI ont accepté que le gouvernement américain examine leurs nouveaux modèles d'IA avant leur lancement public. Concrètement, l'examen préalable par l'État passe d'un programme expérimental à une étape obligatoire du développement pour les plus grandes entreprises.

Comment fonctionne l'examen

Le Center for AI Standards and Innovation (CAISI), rattaché au département du Commerce américain, réalise des évaluations préalables des nouveaux modèles d'IA bien avant leur sortie publique. Il analyse les capacités des systèmes en programmation, en mathématiques et sur des tâches scientifiques, identifie les risques potentiels et travaille avec les entreprises pour renforcer la sécurité avant la mise sur le marché du modèle.

Le programme a démarré en 2024 avec OpenAI et Anthropic. En un an et demi, 40 examens ont été menés. Les deux entreprises ont récemment renégocié leurs partenariats pour les aligner sur les nouvelles priorités de l'administration Trump.

Google DeepMind, Microsoft et xAI rejoignent le dispositif à de nouvelles conditions. Pratiquement tous les grands développeurs de modèles d'IA de pointe coordonnent désormais leurs lancements avec l'État.

Pourquoi le gouvernement encadre l'IA

L'administration américaine assigne plusieurs missions au CAISI : comprendre ce dont les systèmes d'IA de pointe sont réellement capables ; identifier les risques potentiels avant leur arrivée sur le marché de masse ; et contrôler les exportations de technologies d'IA dans l'intérêt de la sécurité nationale.

Le CAISI mène des recherches ciblées aux côtés des entreprises et vérifie que les modèles sont prêts à être lancés. Cela comprend l'analyse de la façon dont le système gère des scénarios potentiellement dangereux et la vérification des nouvelles capacités apparues par rapport à la génération précédente.

Les priorités de l'administration en matière de développement de l'IA :

• Garanties que les systèmes restent contrôlables
• Compréhension complète des capacités des modèles de pointe
• Transparence envers les régulateurs
• Protection de la sécurité nationale
• Contrôle des exportations de technologies

Ce que cela change pour l'industrie

L'accord des plus grandes entreprises sur un examen préalable par l'État signifie qu'il n'est plus possible de lancer de nouveaux modèles de pointe aux États-Unis sans se coordonner avec le CAISI. Pour les entreprises, le cycle de développement ralentit de plusieurs semaines avant la sortie. Pour le gouvernement, c'est un levier d'influence sur la direction du développement. Pour les utilisateurs, cela signifie potentiellement des normes de sécurité plus élevées pour les modèles qu'ils utilisent chaque jour.

Ce que cela signifie

L'ère de la liberté totale des grandes entreprises d'IA pour décider de la sortie de leurs modèles touche à sa fin. L'État joue un rôle plus actif dans la gouvernance de technologies majeures qui touchent des millions de personnes. Cela peut accélérer l'élaboration de normes de sécurité, mais freiner le rythme de l'innovation.