Définir des limites communes à l’échelle internationale
Face aux risques que présentent certains usages et certaines capacités des systèmes d’intelligence artificielle, la définition de « lignes rouges » fait l’objet de discussions croissantes à l’échelle internationale. L’objectif est d’identifier les pratiques et les comportements des systèmes d’IA qui devraient être interdits ou strictement encadrés, indépendamment du pays où ces systèmes sont développés ou déployés.
Ces discussions sont notamment menées au sein du Réseau mondial des organisations de la société civile et du monde universitaire sur l’éthique et les politiques de l’IA, créé par l’UNESCO. Ce réseau vise à contribuer aux réflexions internationales sur la gouvernance de l’IA et à la mise en œuvre de la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle, adoptée en 2021 par ses 193 États membres.
Le Réseau est organisé en cinq sous-groupes thématiques, dont l’un est consacré aux lignes rouges internationales en matière d’IA.
Le CeSIA chargé de coordonner les travaux du sous-groupe
Lors de la réunion plénière du Réseau, organisée le 14 septembre 2026 à Riyad à l’occasion du quatrième Forum mondial de l’UNESCO sur l’éthique de l’IA, les organisations membres ont élu le CeSIA à la tête de ce sous-groupe pour le mandat 2026-2027.
À ce titre, le CeSIA sera chargé de coordonner les travaux du sous-groupe, de définir ses priorités avec les organisations participantes et de favoriser leur contribution aux discussions. Il participera également au Groupe de coordination multipartite du Réseau.
Cette responsabilité s’inscrit dans la continuité des travaux du CeSIA sur les lignes rouges internationales en matière d’IA. Le cadre de l’UNESCO offre une occasion particulière de faire avancer ces travaux : sa Recommandation de 2021 constitue un socle de principes déjà approuvés par l’ensemble de ses États membres. L’enjeu est désormais de préciser les limites concrètes qui peuvent en découler.
« La définition de lignes rouges internationales est essentielle pour prévenir les risques les plus graves liés à l’IA. La Recommandation de l’UNESCO constitue un point de départ précieux : elle permet de construire sur des engagements auxquels les États ont déjà souscrit. Nous souhaitons mettre ce mandat à profit pour faire progresser, avec les autres organisations du Réseau, la définition de limites claires et partagées. »
Prochaines étapes
Les premières réunions de travail se tiendront en novembre 2026 afin de définir, avec les membres du sous-groupe, les priorités pour l’année 2027. Le CeSIA contribuera ensuite à l’élaboration d’un programme de travail, qui alimentera la feuille de route du Réseau présentée lors de sa réunion plénière de décembre.
Niharika Chaubey, Policy Engagement Fellow au CeSIA, représentera le Centre dans la coordination de ces travaux.
Le CeSIA remercie les organisations membres du Réseau pour leur confiance, ainsi que les responsables sortants du sous-groupe pour leur travail.