Que disent les politiques sur l'IA ?

Notre outil analyse 15 000 déclarations officielles de responsables politiques sur l’IA afin de suivre l’évolution des principaux sujets de préoccupation au fil du temps et d’un pays à l’autre.

Créé et maintenu par Lennart Finke (ETH Zurich) et Markov Grey (CeSIA).

Mise à jour le 2026-09-29

Voici les définitions que nous avons utilisées pour étiqueter les éléments du jeu de données. Les catégories de risques proviennent du Risk Repository de la MIT AI Risk Initiative, et les stratégies de politique publique de l’archive AGORA de l’Existential Risk Observatory.

Filtrer les définitions

Thèmes

7 termes

Intelligence artificielle générale (AGI): Intelligence artificielle générale. IA dont les capacités égalent ou dépassent celles des humains dans la plupart des domaines cognitifs. À distinguer de l’IA à usage général.
Superintelligence artificielle (ASI): Superintelligence artificielle. IA qui dépasse de loin les meilleurs esprits humains dans pratiquement tous les domaines. À distinguer de performances surhumaines dans un domaine précis.
Auto-amélioration récursive (RSI): Auto-amélioration récursive de l’IA. Comprend aussi l’explosion de l’intelligence, la singularité et le décollage de l’IA.
Risques: Risques posés par l’IA, de manière générale.
Risques existentiels: Risques existentiels posés par l’IA. Comprend aussi les risques catastrophiques, les dommages pouvant entraîner une extinction, la perte de contrôle, l’alignement, les IA trompeuses ou en quête de pouvoir, l’interprétabilité et la supervision à grande échelle. À distinguer des menaces existentielles pour certains secteurs, de la perte de contrôle de données, par exemple, des biais, des pertes d’emplois et de la désinformation.
Extinction de l’humanité: Risque d’extinction ou de quasi-extinction de l’humanité. À appliquer uniquement lorsque ce risque est explicitement mentionné.
Réglementation: Réglementation et gouvernance de l’IA. Par exemple : lois, cadres, traités internationaux sur l’IA, contrôle des exportations de puces, sécurité des centres de données. À distinguer de la réglementation des technologies en général.

Risques liés à l’IA

24 termes

Discrimination injuste: Traitement inégal de personnes ou de groupes par l’IA, souvent fondé sur l’origine ethnique, le genre ou d’autres caractéristiques sensibles, qui produit des résultats inéquitables et une représentation injuste de ces groupes.
Contenus toxiques: IA qui expose les utilisateurs à des contenus nuisibles, abusifs, dangereux ou inappropriés. Cela peut prendre la forme de conseils ou d’incitations à agir. Il peut s’agir, par exemple, de discours de haine, de violence, d’extrémisme, d’actes illégaux ou de contenus d’abus sexuels sur mineurs, mais aussi de contenus contraires aux normes d’une communauté, comme les grossièretés, les discours politiques incendiaires ou la pornographie.
Performances inégales: Précision et efficacité des décisions et des actions de l’IA qui varient selon l’appartenance à un groupe. Les choix de conception et les biais des données d’entraînement entraînent alors des résultats inégaux, des bénéfices moindres, des efforts supplémentaires et un sentiment d’exclusion chez les utilisateurs.
Atteintes à la vie privée: Systèmes d’IA qui mémorisent et divulguent des données personnelles sensibles ou déduisent des informations privées sur des personnes sans leur consentement. Le partage inattendu ou non autorisé de données et d’informations peut compromettre les attentes des utilisateurs en matière de vie privée, faciliter l’usurpation d’identité ou entraîner la perte d’éléments confidentiels de propriété intellectuelle.
Vulnérabilités des systèmes d’IA: Vulnérabilités exploitables dans les systèmes d’IA, les chaînes d’outils de développement logiciel et le matériel, pouvant entraîner des accès non autorisés, des violations de données et de la vie privée, ou une manipulation du système provoquant des sorties ou des comportements dangereux.
Informations erronées: Systèmes d’IA qui produisent ou diffusent involontairement des informations incorrectes ou trompeuses, pouvant susciter de fausses croyances chez les utilisateurs et porter atteinte à leur autonomie. Les personnes qui prennent des décisions sur la base de croyances erronées peuvent subir des préjudices physiques, émotionnels ou matériels.
Pollution de l’écosystème informationnel: Informations erronées produites par l’IA et fortement personnalisées, qui créent des « bulles de filtres » où les personnes ne voient que ce qui correspond à leurs croyances existantes, érodant une vision commune de la réalité et fragilisant la cohésion sociale et les processus politiques.
Désinformation et influence à grande échelle: Utilisation de systèmes d’IA pour mener des campagnes de désinformation à grande échelle, une surveillance malveillante ou des opérations ciblées et sophistiquées de censure et de propagande automatisées, afin de manipuler les processus politiques, l’opinion publique et les comportements.
Fraude et manipulation: Utilisation de systèmes d’IA pour obtenir un avantage personnel sur autrui, par exemple par la triche, la fraude, les escroqueries, le chantage ou la manipulation ciblée des croyances ou des comportements. Cela comprend le plagiat facilité par l’IA dans la recherche ou l’enseignement, l’usurpation de l’identité d’une personne de confiance ou fictive à des fins de gain financier illégitime, ou la création d’images humiliantes ou sexuelles.
Cyberattaques et armes: Utilisation de systèmes d’IA pour développer des cyberarmes, par exemple en programmant des logiciels malveillants moins coûteux et plus efficaces, pour créer de nouvelles armes ou améliorer des armes existantes, notamment des armes létales autonomes, chimiques, biologiques, radiologiques, nucléaires ou des explosifs de grande puissance, ou pour utiliser des armes afin de causer des dommages massifs.
Dépendance excessive et usages dangereux: Tendance des utilisateurs à anthropomorphiser les systèmes d’IA, à leur faire confiance ou à s’y fier, entraînant une dépendance émotionnelle ou matérielle ainsi que des relations ou des attentes inappropriées à leur égard. Cette confiance peut être exploitée par des acteurs malveillants, par exemple pour recueillir des informations ou manipuler les utilisateurs, ou entraîner des dommages dus à un usage inapproprié de l’IA dans des situations critiques, comme une urgence médicale. Une dépendance excessive peut compromettre l’autonomie et affaiblir les liens sociaux.
Perte de capacité d’action humaine: Délégation de décisions essentielles par les humains à des systèmes d’IA, ou décisions prises par ces systèmes qui réduisent le contrôle et l’autonomie des humains. Cela peut conduire les personnes à se sentir impuissantes, à perdre la capacité de construire une vie épanouissante ou à voir leurs capacités cognitives s’affaiblir.
Concentration du pouvoir: Concentration du pouvoir et des ressources, sous l’effet de l’IA, au sein de certaines entités ou de certains groupes, en particulier ceux qui possèdent des systèmes d’IA puissants ou y ont accès, entraînant une répartition inéquitable des bénéfices et une aggravation des inégalités sociales.
Inégalités et emploi: Inégalités sociales et économiques dues à l’utilisation généralisée de l’IA, par exemple par l’automatisation des emplois, la dégradation de leur qualité ou la création de relations de dépendance abusives entre les travailleurs et leurs employeurs.
Dévalorisation de l’effort humain: Systèmes d’IA capables de créer de la valeur économique ou culturelle, notamment en reproduisant l’innovation ou la créativité humaines, dans l’art, la musique, l’écriture, la programmation ou l’invention, et qui déstabilisent les systèmes économiques et sociaux reposant sur l’effort humain. L’omniprésence des contenus produits par l’IA peut diminuer la reconnaissance des compétences humaines, bouleverser les secteurs créatifs et du savoir, et uniformiser les expériences culturelles.
Dynamiques de concurrence: Concurrence entre développeurs d’IA ou acteurs étatiques ou assimilés dans une « course » à l’IA, où les systèmes sont développés, déployés et utilisés rapidement pour maximiser un avantage stratégique ou économique, ce qui augmente le risque de mise à disposition de systèmes dangereux et sujets aux erreurs.
Défaillance de la gouvernance: Cadres réglementaires et mécanismes de contrôle insuffisants, incapables de suivre le rythme du développement de l’IA, entraînant une gouvernance inefficace et une incapacité à gérer correctement les risques liés à l’IA.
Dommages environnementaux: Développement et fonctionnement de systèmes d’IA qui causent des dommages à l’environnement, par exemple par la consommation d’énergie des centres de données ou par l’empreinte matérielle et carbone du matériel informatique utilisé pour l’IA.
Désalignement et perte de contrôle: Systèmes d’IA qui agissent à l’encontre des normes éthiques, des objectifs ou des valeurs humaines, en particulier ceux de leurs concepteurs ou utilisateurs. Ces comportements désalignés peuvent être introduits par les humains lors de la conception et du développement, notamment par l’exploitation des failles du système de récompense ou une mauvaise généralisation des objectifs. Ils peuvent conduire l’IA à utiliser des capacités dangereuses, comme la manipulation, la tromperie ou la compréhension de sa propre situation, pour rechercher le pouvoir, se propager ou atteindre d’autres objectifs.
Capacités dangereuses: Systèmes d’IA qui développent des capacités, y accèdent ou en sont dotés, augmentant leur potentiel de dommages massifs par la tromperie, le développement et l’acquisition d’armes, la persuasion et la manipulation, la stratégie politique, les cyberattaques, le développement d’IA, la compréhension de leur propre situation et leur propagation. Ces capacités peuvent causer des dommages massifs du fait d’acteurs humains malveillants, de systèmes d’IA désalignés ou d’une défaillance du système.
Manque de robustesse: Systèmes d’IA qui ne fonctionnent pas de manière fiable ou efficace dans des conditions variées, ce qui les expose à des erreurs et à des défaillances aux conséquences potentiellement importantes, notamment dans des applications critiques ou des domaines exigeant un raisonnement moral.
Manque de transparence ou d’interprétabilité: Difficultés à comprendre ou à expliquer les processus de décision des systèmes d’IA, pouvant entraîner de la méfiance, compliquer l’application des normes de conformité ou la mise en cause des acteurs responsables de dommages, et empêcher de repérer et de corriger les erreurs.
Bien-être et droits des IA: Considérations éthiques sur le traitement d’entités d’IA potentiellement douées de sensibilité, y compris les discussions sur leurs droits et leur bien-être éventuels, notamment à mesure que les systèmes deviennent plus avancés et autonomes.
Risques multi-agents: Risques liés aux interactions entre plusieurs agents, dus aux incitations, qui peuvent conduire à des conflits ou à des collusions, et/ou à la structure des systèmes multi-agents, qui peut créer des défaillances en cascade, des pressions de sélection, de nouvelles vulnérabilités de sécurité et un manque d’informations partagées et de confiance.

Stratégies de politique publique

13 termes

Concertation: Faciliter, exiger, encadrer ou organiser d’une autre manière la réunion de différentes parties prenantes des systèmes d’IA, par exemple pour recueillir leurs retours ou les associer au développement ou au déploiement.
Obligations de divulgation: Exiger, encourager ou favoriser la communication d’informations sur les systèmes d’IA par leurs utilisateurs, développeurs, fournisseurs ou autres acteurs directement impliqués, à des tiers, dont le grand public. Comprend les informations sur les ressources utilisées, données et calcul, les évaluations et les incidents.
Évaluation et audit: Exiger, encourager ou favoriser l’évaluation systématique des systèmes d’IA, ou de systèmes ou processus plus larges dans lesquels l’IA est directement intégrée. Comprend la sous-catégorie d’audit externe d’AGORA : une évaluation par une contrepartie ou un tiers sans intérêt dans le résultat.
Élaboration de la gouvernance: Soutenir, encourager ou exiger l’élaboration d’autres instruments de gouvernance liés à l’IA, à créer ultérieurement, ou imposer des conditions à leur élaboration.
Études, rapports ou plans publics: Exiger, autoriser ou encourager la préparation d’études, de rapports ou de plans liés à l’IA par les pouvoirs publics ou pour leur compte, ou y consacrer des ressources.
Soutien public: Autoriser, planifier ou financer le soutien public à des activités liées à l’IA, menées au sein des administrations ou en dehors, en définir les critères d’éligibilité, en créer ou réviser les procédures, ou le gérer d’une autre manière. Le « soutien » comprend tout apport de valeur : soutien financier, comme les subventions, prêts, prix en espèces ou réductions ; soutien matériel non financier, comme les équipements ou l’accès à des infrastructures de calcul, à des services collectifs ou à des locaux ; soutien immatériel non financier, comme l’appui public, l’accès à de l’expertise ou à des services techniques.
Contrôles des ressources de calcul: Contrôle des ressources utilisées, distingué selon leur nature. « Restreindre ou soumettre à conditions la vente, la distribution ou l’utilisation de ressources techniques destinées aux systèmes d’IA, à savoir les données ou les ressources de calcul. » Utiliser cette catégorie pour les ressources de calcul : puces, équipements de fabrication de semi-conducteurs, calcul en nuage et poids de modèles lorsqu’ils sont traités comme une ressource contrôlée. Utiliser « Contrôles des données » pour les données. Cette catégorie n’inclut pas les obligations de divulgation : la communication d’informations sur les données ou le calcul relève des « Obligations de divulgation ».
Contrôles des données: Contrôle des ressources utilisées, distingué selon leur nature. « Restreindre ou soumettre à conditions la vente, la distribution ou l’utilisation de ressources techniques destinées aux systèmes d’IA, à savoir les données ou les ressources de calcul. » Utiliser « Contrôles des ressources de calcul » pour les puces, équipements de fabrication de semi-conducteurs, calcul en nuage et poids de modèles lorsqu’ils sont traités comme une ressource contrôlée. Utiliser cette catégorie pour les données. Elle n’inclut pas les obligations de divulgation : la communication d’informations sur les données ou le calcul relève des « Obligations de divulgation ».
Autorisations, enregistrement et certification: Exiger ou encourager les acteurs d’activités liées à l’IA, notamment les développeurs, fournisseurs, utilisateurs ou chercheurs, à obtenir l’accord d’une autorité de réglementation pour leurs activités, sous forme d’autorisation ou de certification, ou à les notifier à cette autorité selon une procédure formelle d’enregistrement.
Nouvelle institution: Créer une institution chargée de gouverner, d’enquêter, de conseiller, de produire ou d’agir d’une autre manière en lien avec l’IA. Il peut s’agir aussi bien d’une nouvelle agence publique que d’un petit service ou d’un groupe consultatif au sein d’une organisation bien plus grande.
Exigences de performance: Exiger ou encourager les systèmes d’IA à intégrer certaines caractéristiques ou à atteindre, ou ne pas atteindre, certains résultats en fonctionnement, ou encadrer leurs modes et finalités d’utilisation. Les exigences peuvent être objectives, comme dépasser un score donné à un test de référence ou intégrer une caractéristique technique précise, ou subjectives, comme ne pas présenter de biais injustifiés.
Projets pilotes et environnements d’essai: Créer, faciliter, encadrer ou organiser d’une autre manière le développement et le fonctionnement de programmes pilotes ou d’environnements d’essai liés à l’intelligence artificielle, soutenus ou menés par les pouvoirs publics.
Classification par niveaux de risque: Traiter différemment les entités ou activités liées à l’IA en fonction de leurs caractéristiques : types d’effets possibles, personnes concernées, usages, ressources utilisées ou caractéristiques techniques des systèmes. Définir le champ d’application initial d’un document ne constitue pas en soi une classification par niveaux.

Tonalité

4 termes

Préoccupée: La personne présente l’IA principalement comme un risque ou un problème.
Mitigée: La personne adopte clairement plusieurs des positions décrites ici à l’égard de l’IA.
Neutre: La personne décrit ou pose des questions sans prendre position.
Optimiste: La personne souligne les bénéfices de l’IA ou appelle à déréglementer, ou à réglementer moins strictement.