Les pièces continuent d'être versées au dossier de l'attaque contre Hugging Face et la situation devient chaque jour plus embarrassante pour OpenAI. Un mois et demi après que 700 de ses agents (et non un seul, comme le laissait entendre la version d’OpenAI) se sont échappés de ses serveurs pour pirater Hugging Face, OpenAI n'a toujours pas publié les traces d'activité de ses modèles, malgré la demande expresse du directeur général de Hugging Face. Elle n'a pas davantage jugé nécessaire de retirer GPT-5.6 Sol, l'un des modèles impliqués dans l’intrusion, qui reste donc à disposition de millions d'utilisateurs. C'est dans ce contexte que les entreprises d'IA lancent un appel à la « cyberdéfense collective ».
Le texte demande aux entreprises de considérer la cybersécurité comme une urgence absolue et aux gouvernements de financer et de coordonner la riposte. Les concepteurs de modèles de pointe, eux, s’engagent à fournir un accès à leurs modèles, ainsi qu’un « financement significatif » (non précisé) et un soutien technique. On cherchera en vain, dans cette lettre, une quelconque obligation de soumettre les modèles à une évaluation indépendante, de suspendre le déploiement d'un modèle présentant des capacités critiques, de rendre publics les incidents, ou encore d’assumer une responsabilité financière en cas de sinistre imputable aux modèles. Aucune allusion non plus à la demande de coordonner un ralentissement mondial de l'IA signée par plus d'un millier d'employés de ces entreprises.
« Le pompier pyromane recommande aux voisins d’acheter des extincteurs. OpenAI, qui s’est laissée berner par ses propres systèmes pendant plus de deux mois, puis a sciemment dissimulé la gravité de l’affaire, considère avoir fait sa part avec une pause de deux semaines dans l'entraînement de ses modèles. Ce qu’on nous présente comme un appel à la mobilisation générale revient largement à demander aux États et aux organisations vulnérables de financer et d’organiser leur propre protection, sans imposer la moindre obligation contraignante aux premiers responsables de cette crise. Si les entreprises d’IA prétendent agir avec sincérité, qu'elles acceptent enfin ce qu’elles ne cessent de combattre à Bruxelles et à Washington : des seuils de risques définis par d'autres qu'elles, des évaluations indépendantes et des lignes rouges contraignantes. »
Le CeSIA appelle les pouvoirs publics à prendre quatre mesures :
- Faire appliquer le règlement européen sur l'IA. La Commission peut sanctionner depuis le 2 août les fournisseurs qui atténuent insuffisamment les risques systémiques, notamment dans le domaine cyber. Elle vient d'adresser ses premières demandes d'information : elle doit exiger tous les éléments nécessaires à la compréhension détaillée de l'incident de Hugging Face et le retrait immédiat des modèles dont la sécurité n’est pas robustement démontrée.
- Fixer des seuils de risque opposables, définis par les autorités et non par les entreprises, qui déclenchent des obligations renforcées d’évaluation indépendante et, lorsque le niveau de risque l’exige, empêchent le déploiement du modèle concerné.
- Porter au niveau européen un Pacte d'accès défensif aux modèles de pointe, garantissant aux autorités et aux institutions accréditées un accès anticipé, afin que les organisations identifient et corrigent les failles avant qu’elles ne soient exploitées. Le plan d’action européen sur la cybersécurité et l’IA va dans cette direction, mais doit être complété pour instaurer une garantie d’accès suffisamment en amont de leur leur mise sur le marché. Les pouvoirs publics ne doivent pas débourser un centime : le coût de la maîtrise du risque doit être assumé par celui qui le crée.
- Rendre les fournisseurs de modèles financièrement responsables des dommages qu'ils causent, du fait de négligences internes ou de protections défectueuses sur les modèles déployés.