La prévention et la maîtrise des risques catastrophiques de l'intelligence artificielle passent nécessairement par la coopération internationale. À mesure que les capacités et les dangers des modèles progressent, la demande de garde-fous communs se fait de plus en plus pressante et vient d'un nombre croissant d'acteurs : gouvernements, société civile, organisations internationales, responsables religieux, jusqu'aux entreprises d'IA elles-mêmes. Il manquait cependant des propositions concrètes sur lesquelles les diplomates et responsables politiques pouvaient réellement s'appuyer.
C'est le vide que cherche à combler un nouveau projet du Future of Life Institute (FLI), auquel le CeSIA a contribué aux côtés de plus de 25 spécialistes de la gouvernance internationale de l'IA.
Un traité « modèle »
Il ne s'agit pas, bien sûr, d'un traité en vigueur, mais d'un traité modèle, qui met noir sur blanc ce à quoi pourrait ressembler un accord international sur l'IA avancée. L'objectif est d'ouvrir la discussion : ce sont les États, en dernier ressort, qui décideront des obligations et des mécanismes qu'un tel accord devrait contenir.
Le traité modèle est publié sur un site internet, global-governance.ai, qui propose deux outils. Le premier, le Treaty Builder, permet à chacun de composer sa propre version du texte : on choisit parmi sept grands blocs de gouvernance, on prévisualise le résultat, puis on le télécharge sous forme de document prêt à être mis en débat. Le second outil permet de comparer les initiatives internationales existantes selon plusieurs critères, pour situer ce qui existe déjà et ce qui manque encore.
Sept briques pour construire un accord
Le cœur de la proposition tient en sept composantes, répondant chacune à un problème précis :
- Les lignes rouges : certaines pratiques devraient être purement interdites au niveau international, par exemple les cyberarmes autonomes, l'aide au développement d'armes de destruction massive, ou le contournement du contrôle humain.
- Les normes de sécurité : des standards techniques communs auxquels les développeurs de systèmes avancés devraient se conformer.
- La coopération technique : recherche conjointe sur la sécurité, renforcement des capacités et construction d'un consensus scientifique entre pays.
- La réponse d'urgence : une capacité coordonnée à réagir vite en cas d'incident majeur causé par un système d'IA.
- Le partage des bénéfices : des mécanismes pour que les retombées de l'IA profitent au plus grand nombre, sans laisser de pays de côté.
- Les dispositifs institutionnels : une ou plusieurs institutions internationales chargées de mettre ces règles en œuvre.
- Les mécanismes de conformité : la vérification et les moyens de faire respecter les engagements, condition de la confiance entre États.
La contribution du CeSIA : les lignes rouges
Notre travail a porté plus particulièrement sur les lignes rouges. Avec de nombreux partenaires, et sous la coordination de José Jaime Villalobos (FLI), nous avons cherché à établir lesquelles ont leur place dans un tel traité. Le résultat de cette délibération figure en Annexe A du document.
Ce travail prolonge directement l'Appel mondial pour des lignes rouges sur l'IA, porté par le CeSIA. Définir des interdits ne suffit pas s'il n'existe aucune architecture pour les faire respecter.