Avec Yoshua Bengio (MILA), Robert Trager (Oxford Martin AI Governance Initiative) et une vingtaine de chercheurs internationaux, sous la coordination de Ben Bucknall et Saad Siddiqui, le CeSIA cosigne une étude qui pose une question simple : sur quels sujets de sécurité de l'IA les États-Unis et la Chine ont-ils intérêt à coopérer, malgré leur rivalité ? L'article est publié par le Carnegie Endowment for International Peace et a été accepté à FAccT 2025 (Athènes).
La coopération internationale est monnaie courante dans la recherche en IA, y compris entre rivaux géopolitiques. Mais sur les enjeux de sécurité de l'IA, les choses se compliquent : certains acteurs y voient une menace pour leur sécurité nationale : risque de diffusion de capacités dangereuses, de fuite d'informations sensibles.... Ces risques existent, mais leur ampleur dépend fortement du domaine considéré : c'est précisément ce que cette étude se propose de clarifier.
Une nécessité à laquelle certains s'opposent
La coopération internationale est une nécessité : « De nombreux risques liés à l'IA sont par nature internationaux, et sont donc mieux traités par la coopération internationale » (Déclaration de Bletchley, 2023).
Pourtant, certains acteurs considèrent la coopération avec méfiance, arguant qu'elle pourrait compromettre leur avance technologique ou poser des risques inacceptables pour leur sécurité nationale, par exemple via l'exploitation de vulnérabilités dans des protocoles ou infrastructures développés conjointement (de la même manière que la France ne conçoit pas ses sous-marins en partenariat avec la Russie).
Deux pistes prometteuses
En disséquant les domaines potentiels de coopération en sécurité de l'IA, nous montrons que deux pistes sont très prometteuses :
- La recherche sur les mécanismes de vérification, pour garantir le respect des traités internationaux sans nécessiter une confiance mutuelle totale entre les parties (de la même manière que la cryptographie est un mécanisme de vérification dans la communication).
- La codification de standards et de protocoles communs, pour harmoniser les cadres réglementaires internationaux, éviter la fragmentation des normes et créer un langage commun permettant aux acteurs de discuter des risques et des mesures de sécurité. Cette direction semble très peu risquée : on voit mal comment fixer des lignes rouges communes sur les armes biochimiques où la perte de contrôle des systèmes représenterait un risque pour l'une ou l'autre des parties.
Ces deux directions offrent donc un vrai terrain de coopération, même entre rivaux.
Une grille d'analyse, sujet par sujet
Au-delà de ces deux recommandations, nous proposons une grille d'analyse permettant de mettre en balance, sujet par sujet, les bénéfices collectifs d'un côté et les risques de fuite d'informations sensibles ou d'escalade de l'autre.
D'ailleurs, cette publication est elle-même un exemple de coopération internationale réussie : elle rassemble des chercheurs d'une dizaine d'institutions des deux côtés de l'Atlantique.
Lire le papier :