Le rapport de la sénatrice Vanina Paoli-Gagin sur l'alignement des IA a été remis le 30 juillet à la ministre Anne Le Hénanff, concluant la mission confiée par le Premier ministre. « Plus qu'un atout concurrentiel, l'alignement est un enjeu existentiel et civilisationnel » : c'est exactement cela, et la France et l'Europe ont une carte à jouer sur cette question. L'affaire Hugging Face rend cette urgence tangible. OpenAI a suspendu l'entraînement du modèle concerné et confié l'analyse à des évaluateurs externes. L'alignement n'est plus une question philosophique : c'est la condition pour continuer à développer cette technologie sereinement.
Trois priorités que le CeSIA a défendues lors de son audition :
- Construire une capacité indépendante d'évaluation et de vérification (priorité n°4). Aujourd'hui, ce sont les entreprises qui fixent leurs propres seuils de risque et qui décident si elles les respectent. Aucune autre industrie ne fonctionne ainsi.
- Doter la France d'une gouvernance opérationnelle de l'alignement (priorité n°6), en donnant à l'INESIA les moyens d'agir au rythme des capacités de l'IA.
- Préparer la résilience et porter une diplomatie de l'alignement (priorité n°10). C'est le point sur lequel il faut insister. Aucune politique d'alignement ne peut reposer uniquement sur la prévention, car les systèmes d'IA sont encore peu robustes. Il faut préparer la défaillance des garanties, via des exercices nationaux et européens de perte de contrôle (recommandation n°28), et l'accélération des moyens en défense cyber pour la continuité des fonctions essentielles. Et il faut porter le sujet à l'international : le rapport propose une instance de coordination technique et de notification d'urgence des incidents, sur le modèle du Financial Stability Board ou de l'AIEA (recommandation n°29), ainsi qu'une « coalition des alignés » (recommandation n°40). C'est là que la France peut peser au-delà de ses moyens budgétaires : membre permanent du Conseil de sécurité, l'OCDE et l'UNESCO à Paris, la présidence du G7. La diplomatie constitue son premier levier de rayonnement.
Une bonne nouvelle sur ce point, et une fierté française. Deux organisations françaises figurent parmi les évaluateurs retenus par le Bureau européen de l'IA pour les modèles à usage général : le CeSIA sur les risques de manipulation, SaferAI sur les risques CBRN. Quatre opérateurs publics construisent la capacité nationale : le LNE, PEReN, l'ANSSI et Inria. Aucun pays européen n'en compte autant.
Le CeSIA est fier que ses travaux aient contribué à ce rapport, et reste disponible pour la mise en œuvre de ce plan d'action urgent.