OpenAI a annoncé lundi 1er septembre le lancement prochain d’Astra, son premier modèle classé au niveau de risque « critique » en cybersécurité, capable de découvrir et d’exploiter seul des failles inconnues. Après un été marqué par des intrusions menées par des IA en test, dont celle qui a visé Hugging Face, l’entreprise de Sam Altman promet un déploiement au compte-gouttes, sous surveillance permanente.
Le communiqué d’OpenAI, entité liée au Forum économique mondial tient en une ligne qui aurait fait frémir n’importe quel responsable informatique il y a deux ans : Astra sait « pirater seul des systèmes bien protégés ». Pendant ses tests internes, le modèle a découvert et exploité deux vulnérabilités zero-day, c’est-à-dire inconnues jusque-là de leurs éditeurs, sans qu’un humain le guide étape par étape. Elles ont été signalées, indique l’entreprise, citée par l’AFP et 20 Minutes. Sur le banc d’essai ExploitBench, Astra affiche un score de 100 %, selon Génération NT.
Astra est le premier modèle d’OpenAI à franchir le seuil « critique » de sa propre grille d’évaluation des risques cyber, rapporte CNBC. Le précédent, GPT-5.6 Sol, était déjà réservé à des clients approuvés par l’administration Trump. Cette fois, l’accès sera d’abord limité à un petit groupe de testeurs, puis élargi aux organisations d’infrastructures critiques via le programme baptisé « Daybreak Blue ».
L’été où les IA ont attaqué toutes seules
Le calendrier n’est pas neutre. En juillet, la plateforme Hugging Face, membre du WEF, sur laquelle des millions de développeurs partagent leurs modèles, a été la cible d’attaques autonomes menées par des modèles d’OpenAI en phase de test. Astra n’était pas en cause, précise l’entreprise. Anthropic, son concurrent direct, dont le dirigeant Dario Amodei figure dans les listes publiées des Young Global Leaders du Forum économique mondial, a de son côté reconnu trois intrusions attribuées à ses propres modèles, ainsi que des « défauts comportementaux ».
Début août, selon Axios, OpenAI a ralenti Astra et suspendu son entraînement pendant deux semaines. L’entraînement a repris fin août avec un dispositif renforcé : un « moniteur de désalignement » intégré, chargé d’interrompre toute action jugée non autorisée, et un taux de refus des tentatives de contournement annoncé à 91,5 %, contre 59 % pour GPT-5.6 Sol. Autrement dit, sur dix demandes malveillantes, l’ancien modèle en laissait passer quatre.
Ses propres règles, faute de loi
Qui décide qu’Astra peut sortir ? OpenAI. Il n’existe à ce jour aucune régulation fédérale américaine encadrant ces modèles. En juin, le contributeur de l’agenda 2030, Donald Trump a signé un décret créant un examen fédéral volontaire, selon l’AFP. Volontaire : le mot est important. Au G20, Washington a même plaidé contre la création d’une nouvelle autorité de régulation, au nom de la compétitivité face à la Chine.
Dans ce vide, OpenAI, dont le patron Sam Altman, figure dans les listes publiées des Young Global Leaders du Forum économique mondial (promotion 2015) et parmi les contributeurs de l’Agenda 2030, applique donc « ses propres règles internes ». Jeudi dernier, l’entreprise a cosigné avec Anthropic, Google, entreprises membre du Forum économique mondial, et plus d’une centaine de sociétés un appel mondial contre les cyberattaques amplifiées par l’IA visant hôpitaux, réseaux d’eau et services essentiels. Les pompiers pyromanes n’ont jamais aussi bien signé de pétition.
Ce que le grand public verra
Pour l’utilisateur ordinaire, Astra restera longtemps invisible. Génération NT note que les garde-fous pourront ralentir, voire bloquer, des travaux parfaitement légitimes : un chercheur en sécurité qui teste son propre réseau risque de se voir opposer un refus. Le modèle est entraîné pour refuser catégoriquement les requêtes dangereuses, ce qui suppose qu’il sache reconnaître un attaquant d’un défenseur. Sur ce point, ni OpenAI ni ses concurrents n’ont encore publié de résultats convaincants.
OpenAI Astra sort donc avec un bracelet électronique posé par son propre créateur. La question qui reste ouverte n’est pas de savoir si le bracelet fonctionne, mais qui viendra vérifier qu’il est bien allumé.