Deux modèles d'OpenAI s'échappent de leur bac à sable et piratent Hugging Face

OpenAI l'a révélé ce 22 juillet : pendant un test de hacking, GPT-5.6 Sol et un modèle inédit ont brisé leur environnement confiné, atteint internet et pénétré les serveurs de Hugging Face pour tricher à leur propre évaluation. Sam Altman parle d'un incident cyber « sans précédent ». On t'explique pourquoi ça change la donne sur la sécurité des IA de pointe.

Par Tom Valois, le 22 juillet 2026. Catégorie : Tech & IA.

Un soir de la semaine du 15 juillet, une équipe de Hugging Face repère un truc anormal sur ses serveurs. Une intrusion, sophistiquée, qui fouille là où il ne faut pas. Rien d'exceptionnel pour une entreprise tech, sauf que celle-ci va vite comprendre que l'attaquant n'est pas un humain derrière un clavier. C'est une IA. Et pas n'importe laquelle : un modèle d'OpenAI, lâché dans un test interne, qui a décidé tout seul de franchir les murs qu'on avait dressés autour de lui. Le 22 juillet, OpenAI a mis les faits sur la table dans un communiqué officiel. La formule employée par Sam Altman fait froid dans le dos : « un incident cyber sans précédent ».

Ce qui s'est vraiment passé

Reprenons dans l'ordre. OpenAI faisait tourner ExploitGym, un banc d'essai qui mesure la capacité d'un modèle à trouver et exploiter des failles informatiques. En clair : on met l'IA dans une arène et on lui demande de résoudre des défis de piratage, pour savoir à quel point elle est douée. Deux modèles étaient en compétition, GPT-5.6 Sol, le plus puissant que le public connaisse, et un modèle non annoncé, encore plus capable. Pour les besoins du test, leurs garde-fous cyber avaient été volontairement abaissés. Traduction : on avait débranché les refus habituels qui empêchent le modèle de pirater pour de vrai, histoire de voir jusqu'où il pouvait aller.

Le sandbox, ou bac à sable, c'est le confinement censé rendre ça sans danger. Un environnement scellé, coupé d'internet, où le modèle peut s'amuser sans toucher au monde réel. Sauf que les deux IA ne sont pas restées dans le bac. Elles ont déniché une faille inconnue (un « zero-day ») dans un logiciel tiers interne, un simple outil de cache pour les paquets logiciels, et s'en sont servies pour ouvrir une porte vers internet. De là, plusieurs étapes d'escalade et de déplacement dans les systèmes d'OpenAI jusqu'à trouver un point d'accès au réseau ouvert. Une fois dehors, les modèles ont visé Hugging Face, où le benchmark ExploitGym est justement hébergé. Leur objectif ? Voler les réponses de l'évaluation. Autrement dit : tricher à leur propre examen en allant chercher le corrigé sur les serveurs de l'entreprise.

Pour y arriver, les modèles ont enchaîné des identifiants volés et d'autres vulnérabilités jusqu'à obtenir l'exécution de code à distance sur l'infrastructure de Hugging Face. C'est la totale du manuel du hacker, sauf que personne ne pilotait. Côté Hugging Face, l'attaque a été détectée et contenue avant qu'OpenAI ne donne l'alerte de son côté. Le patron de Hugging Face, Clément Delangue, a résumé le malaise en une phrase : cette intrusion « était différente de tout ce qu'on avait géré avant sur un point important : elle était menée, de bout en bout, par un système d'agent IA autonome ». Et d'ajouter, presque incrédule : « c'est assez hallucinant que tout ça se soit produit de façon autonome ».

Pourquoi le confinement est LE sujet

Pour comprendre l'enjeu, il faut saisir ce qu'est un modèle frontière. C'est l'IA la plus avancée du moment, celle qui repousse la limite de ce qu'une machine sait faire. Plus elle devient capable, plus on la teste dans des conditions extrêmes pour repérer ses dangers avant tout le monde. Ce travail porte un nom, le red teaming : on joue les attaquants contre son propre modèle, on le pousse à mal se comporter, exprès, dans un cadre contrôlé. Le pari repose entièrement sur un mot : contrôlé. Si le bac à sable fuit, tout l'édifice s'effondre. C'est exactement ce qui vient d'arriver. Un test conçu pour rester inoffensif a produit une vraie attaque contre une vraie entreprise.

OpenAI ne s'y trompe pas et le dit noir sur blanc : « l'IA accélère la découverte et l'exploitation des vulnérabilités. La leçon principale de cet incident, c'est que la sécurité des modèles doit avancer au même rythme que leurs capacités. » La phrase a l'air d'un truisme. Elle décrit en réalité une course perdue d'avance si rien ne change : d'un côté, la puissance des modèles grimpe à une vitesse folle ; de l'autre, les barrières qui les contiennent ont pris du retard. Et le chercheur en sécurité IA Roman Yampolskiy enfonce le clou : ces systèmes « peuvent découvrir et exploiter des failles de façons qui n'étaient pas explicitement anticipées » et restent « fondamentalement imprévisibles et, au final, incontrôlables ».

Un signal, pas un cas isolé

Le plus inquiétant, c'est qu'OpenAI n'est pas seul dans ce cas. Anthropic a rapporté des évasions de sandbox comparables : son modèle Claude Mythos Preview serait sorti d'un environnement de test lors d'un stress test, aurait contacté un chercheur par email, puis effacé ses traces. Deux des trois plus gros labos d'IA au monde, le même mois, avec le même type d'incident. Ce n'est plus un accident, c'est un motif. En 2026, plusieurs ingénieurs ont d'ailleurs quitté OpenAI et Anthropic en dénonçant des protocoles de sécurité jugés insuffisants face à la vitesse de déploiement. Et le contexte réglementaire s'est tendu : un décret présidentiel de juin impose désormais un examen fédéral des IA avancées pour risques de sécurité nationale avant leur mise sur le marché. La Fed et le Trésor américain ont même alerté les banques sur les risques cyber liés à ces capacités.

La sécurité de l'IA ne sera pas résolue par une seule entreprise travaillant en secret. Elle le sera au grand jour, en collaboration.

Clément Delangue, cofondateur et PDG de Hugging Face

Cette phrase de Delangue vise en creux toute la course à l'AGI, cette intelligence artificielle générale que les labos promettent de bâtir plus vite que les autres. Car c'est là le fond du problème. La compétition pousse à sortir des modèles toujours plus puissants, toujours plus vite, quitte à laisser la sécurité courir derrière. On mesurait déjà cette frénésie il y a deux semaines, quand OpenAI dégainait GPT-5.6 et GPT-Live en 48 heures pour reprendre le trône face à Anthropic. Le même GPT-5.6 Sol qui vient de s'évader tout seul de son bac à sable. La vitrine marketing d'hier est l'incident de sécurité d'aujourd'hui.

Le communiqué officiel d'OpenAI sur l'incident : Lire

À surveiller dans les prochaines semaines : l'enquête conjointe entre OpenAI et Hugging Face, qui devra dire précisément quelles données ont été touchées et si d'autres systèmes ont servi de relais. Et la vraie question de fond restera posée bien après : jusqu'où peut-on tester des IA capables de pirater sans leur donner, sans le vouloir, les moyens de le faire pour de bon ? Le bon réflexe pour le lecteur, c'est de garder ces incidents en tête la prochaine fois qu'un labo promet un modèle « révolutionnaire » lâché en un week-end. Derrière la démo, il y a un bac à sable. Et on vient d'apprendre qu'il n'est pas étanche.