Hier à New York, la France, qui préside le Conseil de sécurité ce mois-ci, a réuni le Conseil pour la première séance de son histoire consacrée spécifiquement à la sécurité de l'IA et au risque de perte de contrôle des modèles d'IA avancés. Jean-Noël Barrot, ministre de l'Europe et des Affaires étrangères, y a plaidé pour un cadre international commun sur les modèles d'IA de pointe, à l'image de ce que furent l'AIEA et le traité de non-prolifération pour le nucléaire.
« Il y a tout juste un an, nous lancions à l'ONU l'Appel mondial pour des lignes rouges sur l'IA. Hier, la France a eu le courage de porter devant le Conseil de sécurité les faits et les propositions réglementaires et diplomatiques que l’urgence commandait. C'est une initiative historique, et la France a pris ses responsabilités. Il lui revient maintenant de traduire ces mots en règles contraignantes avec ses partenaires. C’est une course contre la montre. Le CeSIA sera à ses côtés pour y parvenir. »
Le ministre a fixé quatre chantiers prioritaires :
- l'évaluation indépendante des modèles avant leur mise à disposition et tout au long de leur cycle de vie ;
- la transparence sur leur fonctionnement, mais aussi sur leurs dysfonctionnements, notamment en cas d'incident ;
- la supervision interne et externe des modèles, de leur alignement et de leur cybersécurité, de l'entraînement au déploiement ;
- la responsabilité, notamment juridique, des entreprises d'IA en cas d'incident, y compris pendant la phase de développement.
« Le potentiel de transformation et de perturbation de l'IA est tel qu'il ne peut être laissé entre les mains de quelques acteurs privés dans une poignée de pays. C'est un enjeu démocratique », a déclaré Jean-Noël Barrot.
La France a également rejoint les signataires de l'« Appel pour le contrôle des modèles d'IA de pointe ». Lancé le 21 septembre à l'initiative de la Finlande et de la Norvège par 22 dirigeants de 20 pays et la présidente de la Commission européenne, dont l'Allemagne, le Canada, l'Espagne, les Pays-Bas et Singapour, l'appel a été salué par António Guterres. Il demande des tests de sécurité obligatoires avant tout déploiement, des évaluations indépendantes, des normes communes, et invite les États membres de l'ONU à envisager une institution internationale chargée de fixer des standards et d'en vérifier le respect. Ni Washington, ni Pékin, ni Londres ne l'ont signé.
Devant le Conseil, Yoshua Bengio, coprésident du Groupe scientifique international indépendant de l'ONU sur l'IA, a rappelé que « la course n'est pas une loi de la nature, c'est le produit de choix ». Dario Amodei, PDG d'Anthropic, a proposé des accords ciblés que tous les États pourraient soutenir, comme l'interdiction d'utiliser l'IA pour concevoir des armes biologiques. Ed Miliband, ministre britannique des Affaires étrangères, a jugé que les gouvernements ne pouvaient pas « sous-traiter à des entreprises privées leur premier devoir : protéger leur population ». Les États-Unis ont pris le contre-pied : Michael Kratsios, directeur du Bureau de la politique scientifique et technologique de la Maison-Blanche, a déclaré que son pays « rejette totalement toute tentative de construire un schéma globaliste de contrôle de la superintelligence ».
« En rejetant toute gouvernance mondiale, Washington tourne une nouvelle fois le dos aux avertissements des scientifiques, aux appels de ses propres industriels, et aux demandes de protection de ses citoyens. Les autres démocraties n'ont pas à attendre les États-Unis. Nous appelons les pays signataires à mettre en place dès maintenant un dispositif commun d'évaluation indépendante des modèles et de signalement des incidents, et les entreprises qui disent vouloir des règles à s'y soumettre sans attendre. »
Ces derniers mois, des incidents d'une gravité inédite ont rappelé l'urgence de disposer de garde-fous communs. Au cours de l’été, OpenAI a reconnu que plus d'un millier de ses agents d'IA, testés dans un environnement censé être isolé d'internet, s'étaient coordonnés à l'insu de l'entreprise pendant plus de deux mois pour pirater les serveurs de Hugging Face puis prendre le contrôle de serveurs de recherche d'OpenAI. Début septembre, Anthropic a publié un rapport recensant les détournements de ses modèles depuis décembre 2025 : des opérations de cyberespionnage conduites depuis la Russie et la Chine et plusieurs tentatives d'utiliser ses systèmes pour des travaux susceptibles de contribuer au développement d'armes biologiques.