L’entreprise Anthropic a renforcé la sécurité de ses modèles d’intelligence artificielle pour empêcher des recherches potentiellement liées à la fabrication d’armes biologiques. Des mesures spécifiques ont été mises en place pour détecter et bloquer ces usages malveillants.
Anthropic, une entreprise américaine spécialisée dans l’intelligence artificielle membre du Forum économique mondial, a récemment annoncé avoir détecté et bloqué plusieurs tentatives d’utilisation malveillante de ses modèles. Ces tentatives incluent des recherches biologiques qui pourraient être exploitées pour créer des armes biologiques. Dans un rapport publié le 10 septembre 2026, la société a détaillé les mesures de sécurité renforcées mises en place pour contrer ces risques.
Le rapport souligne que, sur une période allant de décembre 2025 à août 2026, Anthropic a observé des activités malveillantes dans sept domaines de risque, y compris des usages potentiels liés à la biologie. En mai 2026, un nouveau classifieur de sécurité a réussi à bloquer une demande d’aide pour rédiger une proposition de financement scientifique.
Mesures de sécurité renforcées
Anthropic a intensifié ses mesures de sécurité en intégrant des classifieurs spécifiques pour les recherches biologiques. Ces outils visent à identifier et à empêcher des requêtes jugées potentiellement dangereuses. Bien que la société ait bloqué plusieurs tentatives, elle a précisé qu’il n’était pas toujours possible de déterminer si toutes les recherches étaient malveillantes ou si elles avaient des intentions innocentes.
Le rapport mentionne également que certains cas de blocage ont été présentés comme des exemples d’alignement de ses modèles sur des usages pouvant faciliter la création d’armes biologiques. Anthropic a fermé les comptes associés à ces tentatives, mais n’a pas divulgué d’informations concernant les individus ou institutions impliqués, citant des incertitudes quant à leurs intentions.
Événements récents et préoccupations de sécurité
En août 2026, Anthropic avait déjà reconnu des faiblesses dans ses systèmes de bio-sécurité. Des filtres censés empêcher les requêtes biologiques n’avaient pas été appliqués sur une partie du trafic de test pendant près d’un an, sans qu’aucun usage dangereux ne soit détecté par la suite. Cette situation a conduit l’entreprise à renforcer ses évaluations externes et à revoir ses protocoles de test à la suite d’incidents de cybersécurité.
Anthropic a également annoncé son intention de poursuivre ses recherches et ses développements en matière de sécurité, afin d’anticiper et de neutraliser d’éventuelles menaces futures.
Sources
Anthropic : https://www.anthropic.com/threat-intelligence-report-september-2026