Les députés britanniques ont eu fort à faire ces dernières semaines pour suivre l’actualité. Jacob Coxon a fait les gros titres de la presse internationale en avertissant que l’humanité pourrait disparaître d’ici dix ans. Des agents d’OpenAI devenus incontrôlables se sont introduits dans les systèmes informatiques du gouvernement australien. De fausses informations contenues dans un rapport généré par IA ont failli conduire l’armée américaine à attaquer un navire chinois au Moyen-Orient. Au Parlement, les députés ont débattu d’une nouvelle proposition de loi sur la superintelligence, tandis que les dirigeants de plus de vingt pays appelaient conjointement à maintenir les modèles d’IA les plus avancés sous contrôle humain.
La semaine dernière, le gouvernement britannique a présenté une série de mesures en réponse à ces menaces. Le ministre chargé de l’IA, Kanishka Narayan, a déclaré vouloir faire du Royaume-Uni « l’un des pays au monde les plus difficiles à attaquer au moyen de l’intelligence artificielle ». Son message aux entreprises qui développent les modèles les plus puissants était encore plus direct : si vous n’êtes pas capables de maîtriser les risques associés à un modèle, ne le mettez pas sur le marché. Ces deux ambitions sont bienvenues. Mais pour les concrétiser, le Royaume-Uni devra regarder une réalité dérangeante en face : il ne dispose que d’une influence limitée sur les entreprises qui développent les IA les plus avancées.
Cette dépendance est d’autant plus préoccupante que les incidents de sécurité les plus graves survenus à ce jour — le piratage des systèmes du gouvernement australien et le désormais tristement célèbre scandale Hugging Face — ont été provoqués par des modèles qui n’avaient pas encore été déployés. Jusqu’ici, le principal levier d’influence britannique sur leur développement reposait sur l’accès dont bénéficiait l’Institut britannique de sécurité de l’IA (AISI) pour évaluer les modèles les plus avancés avant leur mise sur le marché.
Or, les événements de septembre ont révélé toute la fragilité de cet arrangement. La Maison-Blanche a restreint l’accès de l’AISI à ces modèles, avant de revenir sur sa décision sous la pression des ministres britanniques. Il suffirait donc d’une nouvelle décision de Washington pour que le Royaume-Uni soit tenu à l’écart. D’autres pistes envisagées par les parlementaires, comme la proposition de loi sur la superintelligence ou les appels à un traité international visant à ralentir le développement de l’IA, se heurtent au même obstacle : comment le Royaume-Uni pourrait-il les faire appliquer alors que les entreprises américaines et chinoises ont peu de raisons de tenir compte des intérêts britanniques lorsqu’elles conçoivent leurs modèles ?
Le pays risque ainsi de se retrouver dans la position du roi Knut, prétendant commander aux marées : affirmer son autorité sur des forces qu’il n’a guère les moyens de maîtriser. Mais dépendance ne signifie pas impuissance. Que le Royaume-Uni tire ou non profit des avancées de l’IA, il devra en affronter les risques. Plutôt que de tourner le dos à cette technologie, il serait plus utile de se demander de quels leviers le pays dispose réellement pour réduire son exposition aux menaces. Et, fort heureusement, plusieurs initiatives à fort impact sont à sa portée.
Faire de la sécurité de l’IA une priorité diplomatique
Le Royaume-Uni devrait d’abord se doter d’une véritable stratégie diplomatique en matière de sécurité de l’IA. Depuis le sommet de Bletchley Park en 2023, il a démontré sa capacité à rassembler les acteurs internationaux sur ce sujet. La récente proposition d’Andy Burnham, qui souhaite voir le pays jouer un rôle de médiateur impartial dans l’élaboration de normes mondiales pour l’IA, va dans le bon sens.
Il devrait aller plus loin en créant, au sein de la nouvelle cellule gouvernementale consacrée à l’IA (AI Taskforce), une unité diplomatique réunissant les experts techniques de l’AISI et des représentants du ministère des Affaires étrangères. Sa mission serait de définir les orientations stratégiques britanniques et de proposer des normes internationales pour encadrer le développement des modèles les plus avancés.
La présidence britannique du G20 constituerait le principal levier de cette ambition diplomatique. Deux axes devraient être privilégiés. Le premier consisterait à engager les États-Unis et la Chine dans des discussions sur des normes de sécurité communes, notamment sur les lignes rouges à ne pas franchir concernant les systèmes capables d’améliorer eux-mêmes leurs propres performances, un phénomène connu sous le nom d’« auto-amélioration récursive ». Le second s’inscrirait dans le prolongement des travaux engagés sous la présidence américaine du G20 sur la sécurisation des chaînes d’approvisionnement. Le Royaume-Uni devrait créer un groupe de travail du G20 consacré à la chaîne d’approvisionnement de l’IA, en invitant les Pays-Bas à y participer et en travaillant étroitement avec le Japon et la Corée du Sud.
Ces pays produisent les équipements de lithographie et les puces mémoire indispensables aux modèles d’IA les plus avancés. Ensemble, ils disposent donc d’un pouvoir de négociation dont le Royaume-Uni est dépourvu à lui seul. Ce groupe devrait notamment chercher à garantir l’accès aux modèles les plus puissants, y compris pour permettre à l’AISI de les tester avant leur déploiement. Cet accès devient un véritable enjeu de sécurité nationale, à mesure que les États s’appuient sur les technologies d’IA les plus avancées pour assurer leur défense. L’Australie en a fait l’expérience : des agents autonomes peuvent désormais pénétrer les systèmes informatiques d’un gouvernement avant même d’avoir quitté l’environnement de leur entreprise d’origine. Même des alliés animés des meilleures intentions peuvent ainsi représenter une menace pour des pays insuffisamment préparés.
Miser sur l’expertise britannique pour rendre les accords vérifiables
La vérification des capacités de calcul constitue un autre domaine dans lequel le Royaume-Uni pourrait tirer parti de son expertise technique. Tout accord entre Washington et Pékin visant à ralentir le développement de l’IA dépendrait de la capacité de chaque partie à vérifier que l’autre respecte ses engagements, notamment qu’elle n’entraîne pas clandestinement de nouveaux modèles à très grande échelle. Les technologies permettant de procéder à ces vérifications en sont encore à leurs débuts. Le Royaume-Uni a donc une occasion à saisir pour devenir un acteur de référence dans ce domaine.
Le gouvernement semble en avoir pris conscience et a promis de préciser, dans les prochains mois, les moyens qu’il entend consacrer au développement de ces technologies sur le territoire britannique. Ce soutien devrait commencer par un travail de prospective fondé sur des scénarios concrets, comme Ed Lawrence et moi-même l’avons déjà proposé, afin de déterminer précisément quels équipements seront nécessaires. L’État pourrait ensuite recourir à des engagements d’achat anticipés pour réduire les risques financiers supportés par les entreprises qui innovent dans ce domaine, à l’image d’Amodo, implantée à Sheffield.
Le Royaume-Uni pourrait également prendre la tête d’une coalition de pays alliés afin de mutualiser les compétences techniques et, à terme, faciliter la conclusion d’un accord de ralentissement. Ni les États-Unis ni la Chine ne seront enclins à faire confiance à des technologies de vérification développées exclusivement par leur rival. C’est précisément là que des pays comme le Royaume-Uni peuvent jouer un rôle bien supérieur à leur poids économique ou technologique.
Donner à l’État les moyens d’agir en cas de crise
Sur le plan intérieur, les mesures annoncées lundi constituent un bon point de départ.
Le gouvernement prévoit notamment d’étudier comment le projet de loi sur la cybersécurité et la résilience (Cyber Security and Resilience Bill) pourrait protéger les hôpitaux et les services essentiels contre les risques liés à l’IA, y compris la perte de contrôle des systèmes. Il entend également revoir les procédures de signalement des incidents graves et des accidents évités de justesse. Ces dispositions permettraient de mieux protéger les services essentiels exposés aux risques de l’IA. Mais elles laisseraient à l’État peu de moyens d’action sur les entreprises à l’origine de ces risques.
Les trois semaines pendant lesquelles l’AISI a été privé d’accès aux modèles américains en ont fourni une illustration frappante. Lorsque Washington a bloqué cet accès, Bruxelles disposait paradoxalement de davantage de leviers que Londres pour peser sur les entreprises développant les modèles les plus avancés : l’Union européenne pouvait, au minimum, les contraindre légalement à communiquer certaines informations.
Les parlementaires britanniques devraient combler cette lacune en amendant le projet de loi sur la cybersécurité afin de doter les ministres de pouvoirs d’urgence. Ceux-ci leur permettraient d’exiger des informations auprès des entreprises développant les modèles les plus avancés et de restreindre le déploiement de modèles jugés dangereux.
À défaut, la meilleure option dont disposerait le gouvernement en cas de crise serait de recourir à une loi d’urgence datant de 2004, le Civil Contingencies Act, dont les dispositions n’ont jamais été mises à l’épreuve et pourraient faire l’objet de recours judiciaires. L’obligation de signaler les incidents devrait également s’appliquer aux entreprises d’IA, et pas seulement aux exploitants d’infrastructures critiques. La présence de salariés et d’actifs de ces entreprises sur le territoire britannique les inciterait à coopérer, même si la législation nationale ne peut guère influer sur le développement de modèles à l’étranger. Strictement réservés aux situations d’urgence touchant à la sécurité nationale, ces pouvoirs ne freineraient pas la croissance. Au contraire, c’est précisément l’existence de tels garde-fous qui permettrait de justifier une adoption ambitieuse de l’IA.
Préparer les infrastructures critiques aux nouvelles menaces
Enfin, la cellule gouvernementale consacrée à l’IA devrait piloter un vaste programme de préparation aux risques, mobilisant l’ensemble des ministères et des opérateurs d’infrastructures critiques.
La secrétaire du Cabinet, Antonia Romeo, dispose d’une position privilégiée pour coordonner cet effort, en s’appuyant sur les compétences techniques à sa disposition. Elle pourrait commencer par inscrire la perte de contrôle des systèmes d’IA au Registre national des risques (National Risk Register), afin d’obliger chaque ministère à élaborer des plans de réponse à cette éventualité. Les premières expérimentations menées par le gouvernement, qui utilise des modèles d’IA avancés pour analyser la sécurité de ses propres systèmes informatiques, ont déjà permis de détecter et de corriger plus d’un millier de vulnérabilités potentielles. Ces expérimentations sont désormais étendues à d’autres systèmes. Les opérateurs d’infrastructures critiques devraient adopter la même approche.
La cellule gouvernementale devrait également définir des normes en matière de capacités de cyberdéfense et veiller à ce que les opérateurs d’infrastructures critiques puissent passer d’un fournisseur de modèles à un autre. Leurs dispositifs de protection doivent rester opérationnels même s’ils perdent l’accès à un modèle particulier. Le Royaume-Uni devrait par ailleurs investir dans ses propres capacités d’IA open source, ainsi que dans une infrastructure nationale de calcul suffisante pour faire fonctionner ces modèles. L’objectif serait de disposer d’une solution de repli pour assurer sa cyberdéfense si l’accès aux technologies américaines venait à être interrompu. Cela ne nécessiterait pas forcément de disposer des modèles les plus puissants. Certains fournisseurs spécialisés affirment déjà atteindre des performances comparables à celles des systèmes les plus avancés pour détecter et corriger les failles de sécurité.
Le plan d’investissement pour la défense prévoit une enveloppe de 115 millions de livres sterling pour se protéger contre les menaces liées à l’IA. Il devrait revenir à la cellule gouvernementale de piloter l’utilisation de ces fonds. La biosécurité doit également occuper une place centrale dans cet effort. Une mesure simple et peu coûteuse consisterait à renforcer les dispositifs de surveillance biologique afin de détecter au plus tôt l’apparition de nouvelles menaces.
Ne pas confondre ambition et pouvoir réel
Les annonces de lundi constituent une première étape encourageante. Mais les risques évoluent plus vite que l’administration britannique ne parvient à s’y préparer. Et le pays est encore loin d’être prêt à affronter cette nouvelle réalité. Contrairement à ce que raconte la légende, le roi Knut ne s’était pas assis face à la marée montante parce qu’il croyait pouvoir lui donner des ordres. Il voulait au contraire montrer à ses courtisans les limites de son pouvoir. Le Royaume-Uni risque aujourd’hui d’en faire lui aussi la démonstration, à ses dépens. Pour l’éviter, il doit mobiliser tous les leviers dont il dispose : mettre son influence diplomatique au service de la sécurité mondiale de l’IA et renforcer, sur son propre territoire, sa capacité à faire face aux menaces.