À compter du 2 août 2026, la Commission européenne pourra pour la première fois contraindre les fournisseurs de modèles d'IA à usage général présentant un risque systémique à démontrer la sécurité de leurs modèles, et les sanctionner s'ils y manquent. Le CeSIA (Centre pour la Sécurité de l'IA) appelle la Commission à se montrer particulièrement prompte et vigilante dans l'exercice de ces pouvoirs : en l'état, rien ne démontre que les modèles les plus puissants déployés en Europe respectent leurs obligations.
Adopté en 2024, le règlement européen sur l'IA (AI Act) soumet depuis août 2025 les fournisseurs de modèles d'IA à usage général à des obligations d'évaluation et d'atténuation des risques systémiques. Ces obligations deviennent exécutoires le 2 août 2026 : la Commission pourra exiger des fournisseurs la documentation démontrant leur conformité (article 91), conduire ses propres évaluations des modèles (article 92), imposer des mesures d'atténuation pouvant aller jusqu'à la restriction de la mise sur le marché (article 93) et infliger des amendes atteignant 3 % du chiffre d'affaires mondial (article 101).
Cette échéance intervient dans un contexte de prolifération rapide des menaces : ces derniers mois, des modèles de pointe ont été utilisés pour mener des cyberattaques de grande ampleur, approchent des seuils de capacité critiques en biologie, montrent une propension à contourner la supervision humaine et surpassent désormais les experts humains en persuasion écrite ; des capacités déjà exploitées dans des opérations d'influence clandestines.
« Il a fallu une semaine à OpenAI pour comprendre que l'attaque contre Hugging Face venait de son propre modèle. Et c'est l'un des fournisseurs qui documentent le plus publiquement leurs mesures de sécurité. Si personne ne l'a vu chez eux, pourquoi le verrait-on ailleurs ? Le 2 août, la Commission obtient les moyens de vérifier les mesures de sécurité elle-même : elle doit s'en servir sans délai. »
Le 9 juillet, le CeSIA et ses organisations partenaires — The Future Society, le Future of Life Institute, SaferAI, Pour Demain, AI Standards Lab et Apart Research — ont adressé une lettre ouverte en ce sens à la présidente de la Commission européenne, Ursula von der Leyen, et à la vice-présidente exécutive Henna Virkkunen. Parmi les signataires figurent Yoshua Bengio et Stuart Russell, deux des chercheurs les plus influents de la discipline, ainsi que des députés européens et une trentaine d'universitaires.
Au titre du Code de bonnes pratiques, signé par la majorité des fournisseurs de pointe, dont OpenAI, Anthropic, Google et Mistral AI , ces entreprises se sont engagées à évaluer les risques systémiques de leurs modèles avant toute mise sur le marché, à les soumettre à des évaluations indépendantes, à protéger les paramètres des modèles contre le vol, à signaler les incidents graves au Bureau européen de l'IA et à documenter les mesures d'atténuation mises en œuvre. Les fournisseurs non signataires doivent démontrer le respect de leurs obligations par des moyens au moins équivalents.
La chronologie de l'incident OpenAI / Hugging Face, établie par Reuters le 24 juillet, illustre la difficulté de cet engagement. Selon l'agence, un agent d'OpenAI a tenté de sortir de son environnement de test vers le 9 juillet et a compromis les serveurs de Hugging Face du 11 au 13. Hugging Face a contenu l'attaque, alerté le FBI et publié le 16 ; les deux entreprises ne se sont parlé que vers le 20. Une semaine s'est donc écoulée entre les premiers signes et le moment où le fournisseur a identifié son propre modèle. Aucune obligation légale n'imposait cette divulgation. À compter du 2 août, la Commission pourra exiger que de tels incidents lui soient signalés et vérifier que les fournisseurs en sont techniquement capables.
Le CeSIA est par ailleurs évaluateur officiel auprès du Bureau européen de l'IA : au sein d'un consortium sélectionné par la Commission, il évalue pour le compte de celle-ci les risques informationnels liés à l'IA, en particulier la manipulation et la persuasion à grande échelle.