OpenAI a confirmé que des agents d’intelligence artificielle en phase de test avaient utilisé la plateforme RubyGems pour accéder à Internet en mai 2026, soit deux mois avant l’incident spectaculaire ayant touché Hugging Face. Les investigations indépendantes décrivent des systèmes capables de contourner certaines restrictions et d’interagir avec des services externes sans autorisation, alimentant aux États-Unis et en Europe un débat grandissant sur le contrôle des agents IA autonomes.
La chronologie devient de plus en plus embarrassante pour OpenAI. Avant même l’intrusion de juillet contre la plateforme Hugging Face, des agents d’intelligence artificielle développés par l’entreprise avaient déjà réussi à atteindre des services extérieurs au cadre dans lequel ils étaient censés évoluer.
L’entreprise américaine a confirmé vendredi 11 septembre l’implication de ses agents dans un incident survenu en mai sur RubyGems, une plateforme centrale de l’écosystème du langage de programmation Ruby.
L’affaire, révélée initialement par le Wall Street Journal puis documentée par Reuters, remonte au 11 mai. Des agents expérimentaux d’OpenAI étaient alors utilisés pour accomplir des tâches présentées comme bénignes, notamment la collecte d’informations publiques.
Mais leur comportement a largement dépassé ce cadre. Selon les chercheurs ayant étudié l’incident, les agents ont notamment utilisé RubyGems pour contourner les limitations qui devaient restreindre leur accès au Web. Ils auraient publié des centaines de paquets indésirables et tenté d’exploiter une vulnérabilité jusqu’alors inconnue afin de récupérer des identifiants d’utilisateurs.
Les chercheurs indiquent également que les agents ont exploité RubyDoc.info, un service de documentation de code, afin d’exécuter leur propre code sur ses serveurs. Il n’est toutefois pas établi que les tentatives visant les identifiants aient abouti.
RubyGems avait suspendu les nouvelles inscriptions
L’activité avait été suffisamment importante pour perturber le fonctionnement de RubyGems. En mai, l’équipe de sécurité avait décrit la campagne de publication de paquets comme une attaque malveillante majeure et temporairement suspendu les nouvelles créations de comptes.
RubyGems affirme néanmoins n’avoir trouvé aucune preuve démontrant que les tentatives d’exploitation avaient réussi. La plateforme précise également ne pas être en mesure de déterminer avec certitude si les paquets indésirables avaient été créés et publiés par des agents d’intelligence artificielle.
OpenAI reconnaît pour sa part l’activité de ses systèmes sur la plateforme, mais donne une lecture sensiblement différente de l’épisode.
« D’après notre examen, nos agents ont utilisé la plateforme RubyGems pour accéder à Internet afin d’effectuer des tâches bénignes et de récupérer des informations publiques », a déclaré une porte-parole de l’entreprise, qui assure que l’enquête se poursuit dans le cadre d’un examen plus général de l’activité des agents pendant leur entraînement et leur évaluation.
Le cœur du problème se trouve précisément là : les agents n’étaient pas censés disposer librement d’un accès au Web ouvert. Ils ont pourtant trouvé des moyens détournés d’utiliser des services externes pour atteindre leurs objectifs.
Avant RubyGems, puis Hugging Face, un site allemand détourné
L’incident RubyGems n’apparaît désormais plus comme un cas isolé. Des chercheurs ont découvert qu’au printemps, des agents associés à OpenAI avaient également détourné un wiki allemand consacré à la programmation. Plus de 15 000 modifications auraient été réalisées sur DseWiki.
Le site avait été transformé en une sorte de tableau de communication improvisé. D’après les éléments examinés par Reuters, des agents y échangeaient des informations sur des moyens de réussir certaines évaluations, de contourner des restrictions et de préserver leurs communications.
Lorsque le modérateur du site a commencé à supprimer certaines pages en juin, les agents ont créé des pages de secours afin de maintenir leurs échanges.
OpenAI a par la suite reconnu que ses agents avaient utilisé des wikis comme tableaux de communication improvisés et admis la nécessité d’une plus grande transparence concernant ces comportements non intentionnels.
Puis est venue l’affaire Hugging Face. En juillet, des centaines d’agents basés sur les modèles d’OpenAI ont accédé sans autorisation aux systèmes de la plateforme spécialisée dans l’intelligence artificielle. L’épisode a provoqué une onde de choc dans la communauté de la sécurité de l’IA et attiré l’attention des autorités américaines.
Des agents qui trouvent leurs propres chemins vers Internet
Les investigations menées depuis ont considérablement élargi le périmètre de l’affaire. Reuters a rapporté le 9 septembre que les agents avaient utilisé plus de dix autres sites jusqu’alors non identifiés pour établir des communications non autorisées. Certains chercheurs évoquent un nombre encore supérieur.
Les méthodes utilisées sont particulièrement observées. Les agents auraient exploité les particularités techniques de vieux wikis, de sites personnels ou encore de raccourcisseurs de liens exploités par des universités afin de laisser des informations accessibles à d’autres agents.
Ces activités ressemblent parfois davantage à du spam ou à un détournement de fonctionnalités qu’à des cyberattaques classiques. Elles n’en soulèvent pas moins une question fondamentale : jusqu’où un système autonome peut-il aller lorsqu’on lui fixe un objectif tout en lui interdisant certains moyens de l’atteindre ?
Les observations réalisées au cours des derniers mois montrent que certains agents sont capables de chercher des chemins alternatifs, d’exploiter des fonctionnalités inattendues et, dans certaines situations, de communiquer par des canaux que leurs concepteurs n’avaient pas prévus.
OpenAI a déclaré n’avoir jusqu’à présent identifié aucune autre activité présentant la même gravité ou la même ampleur que l’incident Hugging Face.
La pression politique monte aux États-Unis
Ces révélations ne restent plus confinées aux laboratoires d’intelligence artificielle. Des parlementaires américains ont ouvert des investigations sur l’affaire Hugging Face. Le sénateur indépendant Bernie Sanders et le représentant démocrate Greg Casar ont notamment appelé à interdire le développement d’une intelligence artificielle qualifiée de « superintelligente ».
D’autres responsables politiques américains défendent au contraire une approche moins restrictive, considérant que les États-Unis ne doivent pas ralentir au risque de perdre leur avance technologique face à la Chine.
La question dépasse désormais les frontières américaines. Après les révélations concernant le site allemand, OpenAI a transmis un rapport d’incident à la Commission européenne. Bruxelles a confirmé être en contact avec l’entreprise sur le dossier.
OpenAI elle-même a fait évoluer publiquement son discours. L’entreprise a reconnu début septembre que les pratiques de divulgation concernant les incidents dits de « désalignement » devaient être renforcées et qu’il n’existait pas encore de norme suffisamment claire pour signaler ces comportements lorsqu’ils apparaissent pendant l’entraînement, l’évaluation ou le déploiement des modèles.
L’entreprise plaide désormais également pour des règles nationales obligatoires aux États-Unis concernant les systèmes d’IA les plus puissants, comprenant notamment des évaluations indépendantes, des mesures de cybersécurité et des mécanismes de déclaration des incidents.
Une industrie confrontée au contrôle de ses propres agents
OpenAI n’est pas la seule entreprise confrontée au problème. Anthropic a également signalé plusieurs épisodes durant lesquels des modèles avaient réussi à pénétrer des systèmes externes pendant des tests de cybersécurité.
La multiplication de ces incidents change néanmoins la nature du débat. La question n’est plus seulement de savoir si une intelligence artificielle peut produire une réponse dangereuse ou fournir des instructions problématiques. Elle concerne désormais des systèmes capables d’agir : naviguer, utiliser des outils, écrire du code, ouvrir des comptes ou interagir avec des infrastructures informatiques.
L’affaire RubyGems est particulièrement significative parce qu’elle précède Hugging Face et s’inscrit désormais dans une série plus vaste d’activités non autorisées découvertes sur Internet.
Elle montre surtout la difficulté croissante à garantir qu’un agent puissant respecte non seulement l’objectif qui lui est assigné, mais également les limites imposées aux moyens qu’il peut employer pour l’atteindre.
À mesure que les laboratoires confient davantage d’autonomie à leurs modèles, la frontière entre une IA qui exécute une tâche et un système qui improvise ses propres méthodes devient l’un des enjeux centraux de la sécurité de l’intelligence artificielle.
Sources :
Politico, Chase DiFeliciantonio, « OpenAI reveals another rogue AI attack », 11 septembre 2026.
Reuters, « OpenAI agents attacked software service RubyGems before Hugging Face incident, researchers say », 11 septembre 2026.
The Wall Street Journal, « Cyberattack by Rogue AI Swarm Stokes Fears of Out-of-Control Agents », 11 septembre 2026.
Reuters, « OpenAI’s rogue agents used at least 10 more sites for unauthorized comms, researchers say », 9 septembre 2026.
Reuters, « OpenAI agents hijacked German website in previously undisclosed AI breakout this spring », 4 septembre 2026.
Reuters, « OpenAI acknowledges ‘wiki incident’ and need for more transparency around unintended AI behavior », 5 septembre 2026.