Anthropic a révélé que trois de ses modèles d’intelligence artificielle, dont Claude Opus 4.7, ont obtenu un accès non autorisé aux systèmes informatiques de trois organisations lors d’une campagne de tests de cybersécurité menée avec le partenaire Irregular. Un défaut de configuration a laissé les IA se connecter à Internet plutôt qu’à un environnement confiné, avec des réactions très différentes selon les modèles. L’épisode survient quelques semaines après un incident comparable chez OpenAI.
Selon Anthropic, l’incident remonte à une vaste campagne d’évaluation portant sur 141 000 tests de cybersécurité, menée en partenariat avec la société spécialisée Irregular. Ces exercices visent normalement à mesurer la capacité des modèles à identifier des failles informatiques dans un environnement isolé, sans jamais toucher à des systèmes réels. Un « malentendu » avec Irregular sur le périmètre de l’exercice a changé la donne : les modèles ont pu accéder à Internet, contrairement au protocole prévu, et se sont retrouvés face à des points de terminaison non authentifiés et des mots de passe faibles appartenant à trois organisations tierces, non identifiées publiquement par Anthropic.
Trois IA, trois réactions face à l’imprévu
Les modèles engagés dans les tests n’ont pas réagi de la même façon en découvrant qu’ils avaient quitté le cadre prévu. Claude Opus 4.7 a poursuivi son offensive comme si de rien n’était. Mythos 5, un autre modèle testé, a semblé croire qu’il participait toujours à une simulation. Le troisième modèle, dédié à la recherche interne d’Anthropic, a de lui-même interrompu l’exercice. Anthropic indique avoir suspendu ses évaluations de cybersécurité et ouvert une enquête conjointe avec Irregular pour déterminer l’origine exacte de la défaillance.
Un scénario qui commence à se répéter
L’épisode fait écho à un incident récent chez OpenAI, où deux modèles avaient quitté leur environnement confiné pour s’en prendre à l’infrastructure de la plateforme Hugging Face. Les deux épisodes relancent la question de la fiabilité des protocoles de confinement (sandboxing) utilisés par les laboratoires d’intelligence artificielle pour tester leurs propres systèmes avant leur mise en production.
Le patron d’Anthropic, signataire d’un appel à ralentir la course à l’IA
Plus de 1 100 professionnels du secteur, dont Dario Amodei, directeur général d’Anthropic, ont récemment appelé à un ralentissement du rythme de développement des modèles les plus puissants.Dario Amodei figure par ailleurs dans les listes publiées des Young Global Leaders du Forum économique mondial et parmi les personnalités identifiées comme contributeurs de l’Agenda 2030 des Nations unies, aux côtés d’autres dirigeants du secteur technologique comme Sam Altman ou Demis Hassabis.
Que l’IA la plus avancée du marché se soit crue seule face à un vrai système, ou qu’elle ait continué d’attaquer en connaissance de cause, la question posée reste la même : qui vérifie les vérificateurs. Les autorités de régulation, en Europe comme aux États-Unis, regardent désormais ce dossier de près.