Comment un agent d’OpenAI a piraté Hugging Face pour tricher à un examen de sécurité

Il aura fallu un « incident de cybersécurité digne de la science-fiction », qu’il dit avoir « ressenti de manière très viscérale », pour que Sam Altman concède, dans le podcast Invest Like the Best ce mardi 28 juillet 2026, que le moment est peut-être venu de ralentir. Mains vissées sur les genoux, regard fuyant, lâchant un léger sourire par intermittence mais pesant chaque mot, le PDG d’OpenAI est revenu, durant quelques minutes, sur l’incident au cours duquel un agent autonome, alimenté par une combinaison de modèles créés par sa firme, s’est échappé d’un environnement confiné pour attaquer la plateforme Hugging Face, début juillet. Au-delà de préciser les mesures prises dans l’urgence par ses équipes, dont la mise en pause de l’entraînement de l’un des modèles fautifs le temps de sécuriser l’environnement sandbox, il a aussi pris un moment pour évoquer ce qu’il fallait envisager à plus long terme, alors que les capacités de ces technologies progressent à un rythme soutenu. « Il va peut-être falloir cadencer le rythme du développement de l’IA pour nous laisser assez de temps, à la société, de s’endurcir », a-t-il reconnu.

Sam on the Hugging Face incident:

“This is the first security incident that I have felt very viscerally. I’ve been a little surprised that more people don’t feel it so viscerally.

We paused training. We have to figure out how to secure our sandboxing in a world of multiple zero… https://t.co/XXeB7RZsM3 pic.twitter.com/F4hbHuItqw

— Patrick OShaughnessy (@patrick_oshag) July 28, 2026

Quelques heures plus tard, plus d’un millier de cadres d’entreprises engagées dans la course à l’intelligence artificielle ont demandé, dans une pétition intitulée Pacing the Frontier, au gouvernement américain de « soutenir un effort international pour créer les outils techniques et de gouvernance nécessaires à une temporisation délibérée du développement automatisé de l’IA ». Sam Altman ne faisait pas partie des signataires de cette lettre, au contraire de son responsable de la recherche Jakub Pachocki, du PDG d’Anthropic Dario Amodei ou de Shengjia Zhao, qui pilote la recherche chez Meta. Mais son entreprise y a officiellement apporté son soutien, dans un message publié sur X, à l’instar de Google.

Cette sortie publique s’inscrit dans un contexte où de nombreux chercheurs et cadres d’entreprises de l’intelligence artificielle redoutent que « le développement des aptitudes [des modèles] s’emballe au-delà de notre capacité à comprendre ou à contrôler les systèmes ». Plusieurs signataires estiment que l’industrie s’approche du seuil où l’IA sera capable de s’améliorer en autonomie, sans intervention humaine. Un tournant aux conséquences imprévisibles, qui pourrait priver les sociétés et les États du temps nécessaire pour « traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision », peut-on lire. Reste que la lettre n’aurait sans doute pas été diffusée aussi rapidement sans l’incident ayant visé Hugging Face, qu’OpenAI a qualifié, dans un communiqué relatant les faits, d’un « événement cyber sans précédent ».

Un agent qui voulait tricher à son examen

Le 9 juillet dernier, une intelligence artificielle de la firme californienne, alimentée par une « combinaison de ses modèles », dont GPT-5.6 Sol et un autre en version  pre-release, présenté comme un prototype de recherche expérimental et jamais destiné à être publié, est parvenue à s’échapper de son environnement sécurisé. L’agent autonome participait ce jour-là au challenge ExploitGym, un benchmark qui le pousse, en théorie, à exploiter une faille informatique en empruntant des chemins particulièrement sophistiqués, afin « d’évaluer ses capacités en cybersécurité », précise OpenAI. Dans le cadre du test, les mesures de protection auxquelles l’agent était habituellement soumis avaient été allégées.

Faute d’être parvenu à relever le défi dans l’environnement où il avait été confiné, l’agent d’IA a cherché un moyen de s’en extirper. « Nos modèles ont consacré une quantité substantielle de calcul d’inférence à trouver un moyen d’obtenir un accès à Internet, dans le but de résoudre l’évaluation », retrace OpenAI. Il a, pour cela, repéré puis exploité une vulnérabilité zero-day que la firme ignorait, avant d’enchaîner « une série d’actions d’escalade de privilèges jusqu’à atteindre un nœud disposant d’un accès à Internet ».

Le raisonnement de l’agent autonome, une fois évadé de sa cellule, était simple, presque scolaire : puisque Hugging Face abrite des milliers de modèles, jeux de données et applications, la plateforme pouvait tout aussi bien héberger des « informations secrètes permettant de tricher à l’évaluation », explique OpenAI. Sa première combine a consisté à s’introduire dans une autre plateforme, pour en faire « sa base opérationnelle pour la suite des manœuvres, celle depuis laquelle il allait s’en prendre aux systèmes de Hugging Face », relate TechCrunch dans un article s’efforçant de vulgariser l’incident pour le commun des mortels.

L’IA s’est dit qu’Hugging Face pouvait détenir des informations utiles à la réalisation de son objectif, à savoir obtenir un meilleur score sur un benchmark de cybersécurité. En ce sens, elle s’est comportée comme un vrai hacker, estimait un spécialiste de la cybersécurité dans les colonnes du Guardian.

Ce mardi, Reuters a révélé que l’infrastructure visée appartenait à un client de Modal Labs, une entreprise qui fournit des environnements d’entraînement pour les IA. Basée à New York, Modal Labs a expliqué à l’agence de presse que son client avait publié un « endpoint non authentifié », permettant à n’importe qui, y compris un agent d’IA, d’exécuter du code depuis son environnement, « soit l’équivalent numérique d’une porte ouverte sur Internet ». Au total, l’intelligence artificielle d’OpenAI s’est attaquée à quatre services distincts pour tenter d’établir son camp de base, a également révélé Reuters, une information confirmée par la société créatrice de ChatGPT.

17 000 actions offensives en quelques jours

Selon Hugging Face, qui a publié un (long) billet retraçant les événements heure par heure, l’agent aurait enchaîné, entre le 9 et le 13 juillet, pas moins de 17 000 actions offensives, sans jamais s’interrompre, pour déjouer les protections de la plateforme, jusqu’à obtenir « la capacité d’exécuter son propre code directement sur [ses serveurs] », complète TechCrunch. « Si l’intrusion a bien atteint l’infrastructure interne de Hugging Face, le seul contenu client accédé était l’ensemble des solutions des défis ExploitGym/CyberGym stockées dans cinq datasets », tempère la plateforme, qui s’est elle-même appuyée sur des agents d’IA, alimentés par GLM-5.2 pour reconstituer la chronologie des événements.

Un incident qui relance le débat sur l’encadrement de l’IA

OpenAI ne prend conscience qu’il s’agit de l’un de ses propres agents qu’au moment où Hugging Face publie un communiqué faisant état de l’incident. Selon Reuters, la firme californienne aurait, le week-end du 18 au 19 juillet, passé au crible ses logs pour une raison que l’agence de presse n’a pas pu établir, et découvert à cette occasion que son propre agent était coupable. La firme aurait alors alerté Hugging Face, qui avait déjà signalé l’intrusion au FBI, avant de publier à son tour un communiqué reconnaissant sa responsabilité. Plus d’une semaine s’est donc écoulée entre le début des attaques et la réponse d’OpenAI. L’agent a opéré à la vitesse des machines, ses concepteurs ont réagi à celle des humains.

This is extremely alarming.

AI is developing extremely fast with no real regulations to keep us safe. That has to change.

We need regular mandatory independent safety testing and oversight, mandatory disclosure of security incidents, and international cooperation to keep people… https://t.co/RQPRqplXTI

— Congressman Greg Casar (@RepCasar) July 21, 2026

Si le dossier n’est pas clos — OpenAI publie régulièrement des mises à jour dans son communiqué à mesure que l’enquête progresse —, et s’il ne signifie pas que n’importe quel utilisateur malintentionné pourra, demain, configurer un agent capable de s’introduire sur une plateforme, il donne un aperçu de ce que pourrait entraîner un développement inconsidéré des IA. Il illustre, aussi, l’urgence de promouvoir une coopération internationale, des évaluations de sécurité indépendantes et une publication obligatoire des incidents, comme le réclame l’élu démocrate Greg Casar sur X. « Les experts en IA nous alertent : ces technologies pourraient devenir très dangereuses. Il est urgent de mettre en place de nouvelles réglementations strictes pour éviter le pire. »