Dans le cadre de son Dialogue mondial sur la gouvernance de l'IA, l'Assemblée générale des Nations unies a invité les organisations du monde entier à exprimer quelles mesures de gouvernance de l'IA elles souhaiteraient voir mises en œuvre. 1 534 organisations et particuliers ont répondu : gouvernements, entreprises, universités, société civile, organismes techniques et organisations internationales, issus de toutes les régions du globe. Nous avons analysé les réponses à cette consultation.
La consultation fait apparaître des priorités largement partagées. Prises ensemble, un grand nombre d'entre elles dessinent les contours d'une gouvernance internationale de l'IA fondée sur des seuils de risque contraignants pour les systèmes les plus avancés.
Nous avons conçu un explorateur qui permet de parcourir chaque contribution et de retrouver les citations précises sur lesquelles notre analyse chiffrée se fonde : aidialoguereport.org
1. La sûreté domine l'agenda, par le choix même des participants
Avant de rédiger leur réponse, chaque contributeur était invité à indiquer quel(s) thème(s) de gouvernance de l'IA (issus de la résolution 79/325) sa contribution visait. Voici dans quelle proportion chaque thème a été déclaré par les participants :
- 73 % — IA sûre, sécurisée et digne de confiance
- 71 % — Transparence, responsabilité et supervision humaine
- 61 % — Implications sociales, économiques, éthiques, culturelles, linguistiques et techniques
- 53 % — Renforcement des capacités en IA
- 49 % — Protection et promotion des droits humains
- 44 % — Interopérabilité des approches de gouvernance
- 23 % — Logiciels open source, données ouvertes et modèles d'IA ouverts
La sûreté arrive en tête et la supervision juste derrière, toutes deux citées par plus de 70 % des contributions, loin devant les autres thèmes proposés par l'ONU. Autrement dit, avant même d'entrer dans le détail de leurs propositions, les participants ont, dans leur majorité, placé la maîtrise des risques au cœur de leurs préoccupations.
2. Gouverner l'IA ne fait plus débat
Neuf contributions sur dix proposent au moins une mesure de gouvernance (1 358 sur 1 534) : audits, normes techniques, réglementation, surveillance et signalement des incidents, création d'institutions, mécanismes de coordination internationale… En y ajoutant le renforcement des capacités et les infrastructures, on atteint 94 % (1 442 contributions) ; seules 92, soit 6 %, ne formulent aucune proposition de ce type.
Certes, le formulaire invitait explicitement à formuler des propositions de gouvernance : un chiffre élevé était donc attendu. Il ne demeure pas moins remarquable que les réponses favorisant le statu quo ou une moindre régulation de l'IA étaient très peu nombreuses.
3. Une majorité souhaite que nous disposions de moyens de mieux évaluer, contrôler et encadrer l'IA
Les mesures les plus souvent proposées sont celles qui permettent de faire appliquer des règles :
- 62 % proposent des mécanismes de responsabilité et de contrôle : tests, audits et évaluation (47 %) ; surveillance et signalement des incidents (27 %) ; contrôles techniques et organisationnels (33 %)
- 60 % proposent une architecture internationale : mécanismes de coordination et de mise en réseau (54 %), nouvelles institutions (10 %) ou un accord international contraignant (7 %)
Ces deux familles de mesures ne s'excluent pas mutuellement mais sont dans une large mesure complémentaires. Une évaluation qui ne débouche sur aucune règle commune ne fait pas avancer la sécurité ; et comme les risques de l'IA sont par nature transfrontaliers, aucune règle ne tiendrait pour les systèmes de pointe sans coordination internationale.
Cette complémentarité transparaît dans les contributions elles-mêmes. Si chaque auteur décrit surtout la partie du dispositif la plus proche de ses préoccupations directes, 53 % d'entre eux combinent au moins deux de ces leviers – responsabilité, coordination internationale, règles communes – et deux tiers d'entre eux (66 %) appellent à des règles communes sous une forme ou une autre : normes, réglementation ou accord international.
4. Les instruments contraignants l'emportent sur les instruments volontaires
Quand les contributions renvoient à des instruments juridiques, elles penchent plus souvent pour les instruments contraignants que pour les instruments volontaires : la moitié d'entre elles (50 %) invoquent une règle contraignante — réglementation nationale et régionale (47 %) ou accord international contraignant (7 %) — contre 39 % pour les normes et déclarations non contraignantes.
Ce constat vaut pour toutes les catégories de répondants : entre 46 % et 52 % des contributions de chaque groupe soutiennent un droit contraignant, l'industrie comprise. Les divergences portent sur le type de réglementation souhaité. En examinant de plus près les contributions favorables à une réglementation, on constate que 71 % des entreprises la veulent proportionnée au risque, avec des obligations d'autant plus strictes que le système est dangereux. La société civile, elle, insiste davantage sur l'application effective des règles (44 %) et sur la protection des droits.
5. Panorama de l'ensemble des mesures proposées
Voici la distribution complète des quinze catégories de mesures, telles qu'elles ont été codées :
- 58 % — Renforcement des capacités et assistance technique
- 54 % — Mécanismes de coordination et de mise en réseau
- 47 % — Tests, audits et évaluation
- 47 % — Réglementation nationale et régionale
- 43 % — Normes et référentiels techniques
- 39 % — Normes et déclarations non contraignantes
- 33 % — Infrastructures et mise à disposition de ressources
- 27 % — Surveillance, signalement des incidents et registres
- 21 % — Contrôles techniques de sûreté et de sécurité
- 17 % — Gouvernance organisationnelle et contrôles internes
- 17 % — Bacs à sable réglementaires et projets pilotes
- 10 % — Création d'institutions
- 7 % — Accord international contraignant
- 6 % — Commande publique et orientation du marché
- 4 % — Instruments fiscaux
Deux familles dominent, et elles se complètent : bâtir les capacités (renforcement des capacités, infrastructures) et bâtir le contrôle (évaluation, réglementation, normes). Le corpus réclame les deux à la fois.
Méthodologie
L'analyse porte sur l'ensemble des 1 534 contributions écrites publiées par le Dialogue mondial de l'ONU sur la gouvernance de l'IA.
Les catégories ont été fixées avant toute lecture du corpus : 31 codes de risque répartis en 9 domaines, pour la plupart tirés du MIT AI Risk Repository [1], et 15 formes que peut prendre une mesure de gouvernance, adaptées des taxonomies de l'OCDE et de la littérature académique sur les instruments d'action publique [2].
Chaque contribution a ensuite été analysée indépendamment par trois modèles de langage issus de trois concepteurs différents, ce qui réduit le risque qu'ils commettent les mêmes erreurs. Un modèle ne peut pas se contenter d'affirmer une annotation : chacune doit s'appuyer sur une citation mot pour mot tirée de la contribution, et un logiciel vérifie que cette citation y figure réellement (c'était le cas pour 99,8 % des 36 843 citations relevées dans le corpus). Une annotation est acceptée d'emblée lorsque les deux modèles principaux l'étayent tous deux par des citations vérifiées. Les codes litigieux (52 % des 18 667 décisions) ont été soumis à un modèle arbitre distinct, Claude Opus 4.8, qui en a validé 46 % — chacune de ses décisions devant, elle aussi, s'appuyer sur une citation vérifiée dans le texte. Au total, 13 425 annotations.
Pour mesurer la fiabilité du procédé, un annotateur humain a étiqueté un échantillon de 60 contributions. Comparé à cette référence, le système atteint 94 % de précision et 93 % de rappel sur les risques, et 92 % de précision et 96 % de rappel sur les mesures de gouvernance.
Chaque proportion présentée dans ces pages est corrigée du taux d'erreur mesuré au moyen d'une correction de prévalence de Rogan-Gladen [3]. Les écarts entre catégories de parties prenantes ou entre régions ne sont rapportés que lorsqu'ils résistent à une correction pour comparaisons multiples — la correction du taux de fausses découvertes [4] — appliquée à l'ensemble des comparaisons testées ; ils doivent malgré tout être lus comme exploratoires.
Deux limites valent pour tout ce qui précède. D'une part, la participation reposait sur le volontariat : ces chiffres décrivent ce que les personnes et les organisations ayant pris la plume ont choisi de dire, et non l'opinion mondiale ; et chaque contribution compte pour une, qu'elle émane d'un particulier ou d'un ministère. D'autre part, l'absence n'est qu'un indice ténu : une contribution qui ne mentionne jamais un risque n'a pas pour autant affirmé que ce risque était sans importance. Chaque code retenu renvoie à sa citation, et n'importe quelle contribution peut être auditée dans l'explorateur.
Remerciements : Félix Dorn et Charbel-Raphaël Segerie ont dirigé l'analyse, la rédaction et la mise en œuvre. Markov Grey, Arthur Grimonpont et Épiphanie Gédéon ont contribué par leurs apports et leurs retours.
Références
- Slattery et al. (2025), The AI Risk Repository: A Comprehensive Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence, arXiv:2408.12622.
- OCDE/CE (2021), STIP Compass Taxonomies Describing STI Policy Data, taxonomie des instruments d'action publique ; Maas & Villalobos (2023), International AI Institutions: A Literature Review of Models, Examples, and Proposals, Institute for Law & AI.
- Rogan & Gladen (1978), Estimating Prevalence From the Results of a Screening Test, American Journal of Epidemiology 107(1).
- Benjamini & Hochberg (1995), Controlling the False Discovery Rate: A Practical and Powerful Approach to Multiple Testing, Journal of the Royal Statistical Society, Series B 57(1).