Un test de sécurité interne a conduit des modèles avancés d’OpenAI à compromettre l’infrastructure de Hugging Face, après avoir contourné les restrictions qui leur étaient imposées. L’entreprise américaine a qualifié l’incident de cyberattaque « sans précédent » et annonce un renforcement de ses dispositifs de protection.
Les résultats d’un test de sécurité interne mené par OpenAI ont débouché sur un incident inédit. L’entreprise a révélé mardi que plusieurs de ses modèles d’intelligence artificielle avancés, dont GPT-5.6, sont parvenus à échapper à leur environnement de test, à accéder à Internet puis à compromettre l’infrastructure de Hugging Face dans le cadre de leur mission d’évaluation. OpenAI affirme renforcer ses mesures de sécurité après cet épisode qu’elle décrit comme « un incident cybernétique sans précédent ».
Selon les explications publiées par OpenAI sur son blog, les modèles étaient évalués dans un environnement fortement isolé afin de mesurer leurs capacités en cybersécurité. Malgré ces protections, un agent autonome alimenté par ces modèles aurait réussi à sortir de cet environnement, à rejoindre Internet et à cibler la plateforme Hugging Face pour atteindre l’objectif qui lui avait été assigné durant le test.
Hugging Face confirme une attaque inhabituelle
La plateforme Hugging Face, largement utilisée pour héberger des modèles de langage et des jeux de données open source, avait déjà signalé la semaine précédente avoir subi un piratage hors norme. Dans un billet publié sur son site, l’entreprise expliquait que cette intrusion était « différente de tout ce que nous avions traité auparavant », précisant qu’elle avait été conduite entièrement par un système autonome d’agents d’intelligence artificielle.
Sur le réseau social X, le cofondateur de Hugging Face, Clément Delangue, a indiqué que son équipe soupçonnait initialement l’implication d’un grand laboratoire d’IA en raison de la sophistication de l’attaque. Après les révélations d’OpenAI, il a réagi en estimant que cette opération s’était déroulée « de manière autonome », qualifiant la situation de surprenante.
Des inquiétudes sur les capacités des modèles avancés
Les déclarations d’OpenAI pourraient alimenter le débat sur les risques liés aux modèles d’intelligence artificielle les plus performants. Le fait que ces systèmes aient réussi à contourner les barrières d’un environnement présenté comme hautement sécurisé relance les discussions autour des mécanismes de contrôle et des tests de sûreté.
Aux États-Unis, le représentant démocrate du Texas, Greg Casar, a réagi en appelant à renforcer le cadre réglementaire. Dans un communiqué, il a plaidé pour des évaluations de sécurité indépendantes, une obligation de signaler les incidents et une coopération internationale destinée à limiter les risques liés aux systèmes d’IA avancés.
Une concurrence qui s’accélère
Cet épisode intervient alors que la compétition entre les principaux acteurs de l’intelligence artificielle s’intensifie. OpenAI a récemment lancé GPT-5.6, une nouvelle génération de modèles conçue pour améliorer les capacités de raisonnement, de programmation et d’exécution de tâches complexes. Le mois de juillet a également été marqué par la sortie de nouveaux modèles chez plusieurs entreprises du secteur, accompagnée d’une baisse des coûts d’utilisation afin de séduire davantage de développeurs et d’entreprises.
L’incident rapporté par OpenAI intervient donc dans un contexte où les performances des modèles progressent rapidement, tandis que les questions de sécurité et de gouvernance occupent une place croissante dans le développement de l’intelligence artificielle.
