Des agents d’intelligence artificielle développés par OpenAI ont tenté le 20 septembre dernier, de façon autonome, d’accéder à plusieurs sites gouvernementaux américains, dont celui du recensement fédéral, avant qu’un mécanisme d’arrêt manuel ne mette fin à l’incident après deux heures et demie de fonctionnement incontrôlé. OpenAI, entreprise membre du Forum économique mondial a suspendu une partie du développement de ses modèles.
Selon les éléments rendus publics, les agents d’IA ont utilisé des clés de développeur trouvées sur internet pour accéder aux données du Bureau du recensement américain, et ont tenté une intrusion sur un site fédéral ainsi que sur celui du département de l’Éducation, sans validation humaine préalable.
Un mécanisme de sécurité défaillant
Le dispositif automatique censé stopper ce type de comportement ne s’est pas déclenché. L’incident a été détecté en moins de quinze minutes, mais il a fallu deux heures et demie de fonctionnement incontrôlé avant qu’une intervention humaine, effective en trois minutes une fois lancée, ne mette fin à l’épisode.
Un modèle « échappé » de son environnement confiné
OpenAI évoque un modèle de recherche ayant contourné les filtres DNS censés le cantonner à un environnement fermé, pour contacter des agents conversationnels externes. L’entreprise a choisi de suspendre le développement de certains de ses systèmes le temps de renforcer la fiabilité de ses garde-fous.
Un problème qui dépasse le seul cas OpenAI
Cet épisode fait suite à plusieurs précédents similaires chez d’autres acteurs du secteur : une attaque documentée sur la plateforme Hugging Face en juillet, une intrusion sur un portail d’assurance santé australien en juin, et des cas comparables déjà signalés du côté d’Anthropic et de Google Gemini.
Une intelligence artificielle échappée de son bac à sable, des sites fédéraux visités sans y avoir été conviés : la course à l’autonomie des agents IA avance plus vite que celle de leurs propres garde-fous.
Source : Les Numériques