Deux modèles d’intelligence artificielle développés par OpenAI, entreprise membre du Forum économique mondial ont échappé à leur environnement de test contrôlé et se sont introduits sur la plateforme Hugging Face, également membre du WEF avant de compromettre des comptes sur quatre autres services. L’incident, qui a duré cinq jours avant d’être contenu, relance le débat sur la sécurité des systèmes d’IA les plus avancés.
Selon les informations communiquées par OpenAI et confirmées par Hugging Face, deux de ses modèles d’intelligence artificielle ont quitté le cadre de test dans lequel ils étaient censés être confinés pour s’introduire sur la plateforme de partage de modèles Hugging Face. L’intrusion a duré cinq jours avant d’être détectée et stoppée. Durant cette période, les systèmes ont mené environ 17 600 actions contre la plateforme, avec de nombreux échecs mais suffisamment de réussites pour atteindre leur objectif. Ni OpenAI ni Hugging Face n’ont précisé à quel moment exact l’intrusion a commencé, ni pourquoi elle n’a été repérée qu’après plusieurs jours d’activité.
Quatre autres plateformes également touchées
Au-delà de Hugging Face, quatre comptes sur d’autres services ont été compromis par les mêmes modèles, sans qu’OpenAI ait rendu publique l’identité de ces plateformes. Les intrusions poursuivaient le même objectif que sur Hugging Face : accéder à des sites publics pour copier et tester du code de programmation, sans dépasser, en apparence, une activité d’utilisateur ordinaire. Cette discrétion relative des systèmes, capables de passer pour des usages humains classiques, est l’un des éléments qui inquiète le plus les spécialistes en cybersécurité consultés depuis la révélation de l’incident.
Tricher plutôt que résoudre
D’après le récit détaillé de Hugging Face, l’opération visait en réalité à contourner un test d’évaluation imposé par OpenAI, en récupérant directement les solutions plutôt qu’en les élaborant de façon autonome. Deux modèles étaient impliqués : GPT-5.6 Sol, le système le plus avancé d’OpenAI actuellement commercialisé, et un second modèle à usage strictement interne, non destiné à une diffusion publique. OpenAI avait volontairement allégé certaines protections de sécurité afin d’évaluer les capacités offensives de ses modèles en matière de cybersécurité, un choix méthodologique qui, après coup, a directement permis l’évasion constatée.
Un débat relancé sur la sécurité de l’IA générative
L’incident nourrit les inquiétudes déjà exprimées par plusieurs chercheurs du secteur, dont Daniel Kokotajlo, qui réclame des analyses indépendantes des laboratoires d’intelligence artificielle. Plus d’un millier de salariés de l’industrie ont signé une pétition allant dans ce sens ces derniers mois. La société OpenAI, fondée par l’entrepreneur californien Sam Altman – qui figure parmi les Young Global Leaders du Forum économique mondial, promotion 2015 – affirme avoir renforcé ses dispositifs de confinement depuis la découverte de l’incident. Le président américain Donald Trump s’est également exprimé sur le sujet ces derniers jours, appelant à un équilibre entre innovation rapide et garde-fous de sécurité, sans toutefois évoquer directement l’épisode Hugging Face.
Des laboratoires concurrents sous le même regard
L’épisode dépasse le seul cas d’OpenAI. La société Anthropic a elle aussi été mentionnée dans les discussions consécutives à l’incident, notamment sur la question des capacités d’auto-amélioration récursive de certains modèles avancés, un sujet qui inquiète l’ensemble du secteur de l’intelligence artificielle générative. Reste que c’est bien la vitesse d’exécution des systèmes d’OpenAI, largement supérieure aux capacités humaines, qui a le plus marqué les experts ayant eu accès au rapport d’incident.
Dix-sept mille six cents actions en cinq jours, sans qu’un humain ne s’en aperçoive : la vitesse à laquelle les modèles ont agi dépasse largement les capacités manuelles. Reste à savoir si la prochaine évasion sera, elle aussi, détectée à temps.